Fotografiile de vacanță ne pot pune în pericol. Cum ajung pozele de pe Instagram să fie transformate în conținut explicit de Inteligența Artificială

Un nou raport publicat de Institutul pentru Dialog Strategic (ISD), o organizație care analizează extremismul, discursul instigator la ură și dezinformarea online, arată cum astfel de grupuri funcționează pe platforme precum 4chan, Telegram sau Discord. Cercetarea, a fost realizată de Leonie Oehmig, specialistă în abuzuri digitale și politici publice în domeniul tehnologiei.

Ce sunt deepfake-urile sexuale și cum funcționează

Deepfake-urile sunt imagini, videoclipuri sau fișiere audio create cu ajutorul inteligenței artificiale pentru a părea reale. În cazul imaginilor sexuale false, tehnologia este folosită pentru a modifica fotografii ale unor persoane reale astfel încât acestea să apară dezbrăcate sau implicate în acte sexuale.

De cele mai multe ori, victimele sunt femei. Iar fotografiile folosite provin din conturi publice de Instagram, Facebook sau alte rețele sociale. Practic, o imagine obișnuită de vacanță sau o fotografie de profil poate fi transformată în câteva minute într-un conținut explicit fals.

În multe cazuri, utilizatorii cer altor persoane pricepute în editare digitală, numite pe forumuri „wizards” („vrăjitori” – tradus din limba engleză), să creeze imaginile pentru ei.

Cum funcționează comunitățile online

Raportul ISD descrie un mecanism organizat și repetitiv. Un utilizator publică fotografia unei femei și oferă instrucțiuni despre cum vrea să arate imaginea modificată. Apoi, persoane specializate în folosirea aplicațiilor de inteligență artificială creează conținutul fals.

Într-un exemplu analizat de cercetători, un utilizator de pe 4chan a publicat fotografia unei femei aflate într-o vacanță. Apoi a cerut ca poza să fie „dezbrăcată” digital. După câteva ore, alt utilizator a răspuns cu imaginea modificată.

Persoanele care realizează aceste deepfake-uri sunt adesea lăudate și tratate ca niște vedete în cadrul comunității online. Cercetătoarea Leonie Oehmig spune că un astfel de comportament creează o cultură bazată pe misoginie, umilire și control asupra victimelor. „Era o adevărată glorificare. Era ca și cum li s-ar spune: «Fă-ți magia, arată-ne ce poți». Oamenii care creează acest material abuziv sunt numiți «sir» sau «master»”, a explicat cercetătoarea pentru publicația WIRED.

Potrivit studiului, mulți dintre cei care solicită astfel de imagini nu sunt necunoscuți pentru victime. Uneori este vorba despre foști parteneri, colegi, prieteni sau chiar membri ai familiei. „Am găsit foarte multe cereri extrem de specifice pentru astfel de imagini false cu persoane dezbrăcate, care îi vizau chiar pe membri ai familiei, prieteni, colegi, șefi și multe alte persoane apropiate”, spune Leonie Oehmig.

Abuz digital care se transformă într-o industrie

Cercetarea arată că fenomenul este mult mai mare decât părea până acum. În doar trei luni, cercetătorii au identificat peste 100.000 de postări legate de astfel de practici pe mai multe platforme online.

În paralel, au apărut numeroase aplicații și site-uri care promit „nudificarea” imaginilor cu ajutorul inteligenței artificiale. Unele dintre ele funcționează pe bază de abonament. Ceea ce înseamnă că abuzul digital începe să devină și o afacere profitabilă.

Experții avertizează că dezvoltarea rapidă a inteligenței artificiale face tot mai ușoară crearea unor imagini false foarte convingătoare. În trecut, astfel de modificări necesitau cunoștințe avansate de editare video sau foto. Astăzi, multe aplicații pot genera rezultate în câteva secunde.

Ce riscuri există pentru victime

Consecințele pentru persoanele vizate pot fi extrem de grave. Victimele se confruntă cu umilință publică, hărțuire, anxietate, depresie și probleme profesionale sau personale. În unele cazuri, imaginile sunt distribuite în grupuri private sau pe rețele sociale pentru a șantaja sau compromite victimele.

Raportul citează inclusiv exemple în care utilizatorii discutau despre distribuirea imaginilor false în grupurile de prieteni ale victimelor. Totul pentru a le afecta reputația. Specialiștii spun că astfel de conținut reprezintă o formă de violență digitală și de abuz sexual. Chiar dacă imaginile sunt generate artificial.

Fenomenul crește și în Europa

Problema deepfake-urilor sexuale a început să atragă atenția autorităților din mai multe țări europene. În Germania, cazul actriței și prezentatoarei TV Collien Fernandes a stârnit controverse. După ce ea a declarat public că fostul său soț ar fi distribuit imagini pornografice false cu ea.

În multe state, legislația încă încearcă să țină pasul cu evoluția tehnologiei. Unele țări au introdus deja legi care pedepsesc distribuirea imaginilor intime false fără consimțământ. Însă aplicarea rămâne dificilă. Totodată, psihologii atrag atenția că efectele emoționale ale unor astfel de situații pot fi devastatoare. Mai ales pentru adolescenți și tineri, care petrec mult timp pe rețelele sociale.

Specialiștii recomandă utilizatorilor să fie atenți la imaginile pe care le publică online. De asemenea, ei ar trebui să raporteze imediat conținutul fals sau abuziv. În același timp, platformele digitale sunt criticate pentru că reacționează lent și permit răspândirea rapidă a acestor materiale.

Raportul ISD scoate în evidență că fenomenul nu mai poate fi considerat marginal sau izolat. Deepfake-urile sexuale fără consimțământ devin o problemă globală. Este acum alimentată de inteligența artificială, anonimatul online și lipsa unor reguli clare pentru platformele digitale.