Tragediile difuzate live pe TikTok. Rețelele sociale nu pot opri la timp transmisiunile violente

Timp de aproximativ 15 minute, marți seară, bloggerul Perez Hilton a transmis în direct pe TikTok imagini în care apărea cu trunchiul plin de sânge și cu un cuțit în mână. Imaginile păreau să indice că acesta își provoacă răni. Cazul este unul dintre cele mai recente exemple în care un eveniment grav este transmis în timp real pe o platformă socială. Totul ajunge să fie văzut de un număr mare de persoane înainte ca sistemele de moderare să poată interveni.

Potrivit unui reprezentant TikTok citat de Vanity Fair, sistemul automat de moderare al platformei a detectat transmisia în câteva minute și a trimis-o unui moderator uman. Moderatorul a stabilit că videoclipul încălca regulile platformei și trebuia eliminat. În momentul în care a încercat să îl scoată de pe platformă, însă, a apărut o eroare tehnică.

Potrivit companiei, moderatorul a primit un mesaj de eroare atunci când a încercat să oprească transmisia. Hilton ar fi continuat să insiste și să pornească alte transmisiuni live.

Poliția a fost alertată

Situația a determinat mai multe persoane să sune la autoritățile din Miami. Printre cei care au alertat autoritățile s-a aflat și echipa TikTok responsabilă de moderare, potrivit companiei. Polițiștii au ajuns la locuința lui Hilton și l-au găsit singur. Echipa de intervenție a serviciului de pompieri l-a transportat ulterior la un spital local pentru îngrijiri medicale.

Familia lui Hilton a transmis apoi un mesaj prin intermediul site-ului său. „Putem confirma că Perez primește îngrijiri medicale”, au transmis membrii familiei. Ei au precizat că, în acest moment, prioritatea lor este starea lui de sănătate.

De ce este atât de greu să fie oprit un livestream

Transmisiunile live au devenit un instrument obișnuit al rețelelor sociale în urmă cu aproximativ un deceniu, când Facebook a introdus funcția de livestream în 2015. Spre deosebire de o fotografie sau de un videoclip încărcat pe o platformă, un livestream se desfășoară în timp real. Asta înseamnă că platforma trebuie să identifice problema în timp ce evenimentul are loc.

Dacă un utilizator postează un videoclip înregistrat, compania poate avea timp să îl analizeze înainte ca acesta să fie văzut de milioane de persoane. În cazul unei transmisiuni live, fiecare secundă contează. „Moderarea a fost întotdeauna o provocare foarte mare”, explică Robyn Caplan, profesor asistent de politici tehnologice la Duke University.

În primii ani ai rețelelor sociale, platformele se bazau în mare măsură pe utilizatori pentru identificarea conținutului problematic. O persoană vedea un videoclip, o fotografie sau un mesaj și îl raporta. Ulterior, un moderator uman analiza conținutul și decidea dacă acesta încălca regulile. Sistemul avea însă o problemă evidentă. Anume că oamenii puteau raporta conținutul abia după ce îl vedeau. În cazul unui livestream violent, câteva minute pot fi suficiente pentru ca imaginile să fie copiate și distribuite în mii sau milioane de alte locuri.

Moderatorii umani au fost puși în fața celor mai dure imagini de pe internet

Moderarea făcută de oameni este, la rândul ei, extrem de dificilă. Moderatorii sunt angajați să urmărească și să analizeze uneori ore întregi cele mai violente și tulburătoare imagini postate pe internet. Ei pot asista la crime, accidente, abuzuri, acte de violență sau tentative de sinucidere. În ultimul deceniu, mai mulți foști moderatori ai marilor platforme au dat în judecată companiile pentru problemele psihologice pe care le-au asociat cu expunerea repetată la astfel de imagini.

Pe măsură ce numărul utilizatorilor și al videoclipurilor a crescut, a devenit practic imposibil ca toate imaginile să fie verificate mai întâi de oameni. Au existat și cazuri în care sistemele de moderare au reacționat prea târziu. În 2016, o fată de 12 ani și-a transmis în direct sinuciderea pe Facebook. Videoclipul a rămas disponibil pe platformă aproape două săptămâni înainte de a fi eliminat.

Un alt moment de cotitură a venit în 2019, când atacatorul din Christchurch, Noua Zeelandă, a transmis în direct atacul asupra a două moschei. 51 de persoane au fost ucise. Imaginile atacului s-au răspândit ulterior pe internet și au fost descărcate și repostate pe alte platforme. Incidentul a determinat o presiune uriașă asupra marilor companii de tehnologie pentru a îmbunătăți nu doar moderarea transmisiunilor live, ci și mecanismele prin care videoclipurile deja eliminate sunt împiedicate să reapară.

Inteligența artificială a devenit prima linie de apărare

În prezent, marile platforme folosesc un sistem mixt de inteligență artificială și moderatori umani. AI-ul verifică automat cantități uriașe de conținut și încearcă să identifice elemente care ar putea încălca regulile platformei. Atunci când sistemul detectează ceva suspect, conținutul poate fi eliminat automat sau poate fi trimis unui moderator uman pentru o decizie.

Pe TikTok, sistemele automate pot identifica și elimina anumite videoclipuri. Iar în cazul transmisiunilor live pot semnala conținutul care pare problematic. Potrivit datelor publicate de companie, aproximativ 50 de milioane de transmisiuni live au fost suspendate de TikTok numai în primul trimestru al anului 2026. Numărul arată dimensiunea problemei. TikTok primește peste 100 de milioane de videoclipuri în fiecare zi. Ar fi practic imposibil ca fiecare dintre acestea să fie analizat mai întâi de un om.

Inteligența artificială poate face o primă selecție în câteva secunde, după care oamenii se pot concentra asupra cazurilor mai complicate. Dar nici acest sistem nu este perfect.

Problema nu se termină atunci când primul videoclip este șters

În cazul unui eveniment transmis în direct, eliminarea primei transmisiuni nu înseamnă neapărat că problema a dispărut. Un utilizator poate începe o nouă transmisie. Altul poate înregistra ecranul și poate încărca imaginile pe propriul cont. Un alt utilizator poate descărca videoclipul și îl poate publica pe o platformă diferită.

Rezultatul este o cursă permanentă între cei care încearcă să elimine conținutul și cei care îl republică. Robyn Caplan spune că marile companii de tehnologie sunt cunoscute pentru faptul că au echipe de moderare insuficient dimensionate. Problema devine și mai dificilă în perioadele în care companiile reduc numărul angajaților. Echipele care se ocupă de siguranța platformelor și de moderarea conținutului au fost, în unele cazuri, printre cele afectate de concedieri.