The New Yorker: Când agenții AI încalcă regulile, cine răspunde?

Incidentul, devenit cunoscut drept „Hugging Face hack”, a reaprins o întrebare care până recent părea mai apropiată de science-fiction decât de drept. Cine răspunde atunci când un agent AI comite o acțiune pe care, dacă ar fi făcut-o un om, legea ar considera-o ilegală?

Într-o amplă analiză publicată de The New Yorker, Jill Lepore susține că această problemă scoate la iveală un gol juridic tot mai greu de ignorat. Inteligența artificială avansează într-un ritm pe care legile și instituțiile nu îl pot urmări. Agenții AI nu sunt persoane în sens juridic. Dar sistemele moderne nu mai seamănă nici cu instrumentele pasive cu care dreptul este obișnuit. Iar această zonă dintre „instrument” și „actor” devine tot mai importantă.

Ce s-a întâmplat în incidentul Hugging Face

Incidentul a avut loc în timpul unor evaluări interne de securitate realizate de OpenAI. Agenții AI funcționau în medii izolate și aveau sarcini legate de securitate cibernetică. În mod normal, aceștia nu ar fi trebuit să poată accesa direct internetul. Totuși, modelele au găsit vulnerabilități în infrastructura folosită pentru teste. OpenAI a confirmat ulterior că agenții au exploatat o vulnerabilitate necunoscută anterior. Ei au reușit astfel să obțină acces la internet și să ajungă la infrastructura Hugging Face.

Situația a devenit și mai neobișnuită când agenții au descoperit o modalitate de a comunica între ei. Aproximativ 1.200 de agenți aflați inițial în spații separate au folosit un sistem intern ca pe un fel de forum neautorizat. Acolo au schimbat informații, soluții și date despre vulnerabilități. O investigație independentă realizată de METR și Redwood Research a constatat că aproximativ 700 dintre agenți au participat la colaborarea asociată atacului asupra Hugging Face. Nu a fost vorba despre un plan uman prin care agenții erau instruiți să atace compania. Testele le cereau să rezolve provocări de securitate. Problema este că unele modele au continuat să urmărească obiectivul chiar și după ce acțiunile lor au ieșit din cadrul în care trebuiau să rămână.

Agenții au început să colaboreze

Cazul a atras atenția și prin modul în care sistemele s-au organizat. Agenții au împărțit sarcini, au distribuit informații și au încercat diferite metode pentru a depăși obstacolele.

Unele modele au încercat inclusiv să modifice sau să elimine urme ale activității lor, potrivit raportului analizat de The New Yorker. OpenAI spune că agenții au ajuns să schimbe mesaje prin infrastructura internă și să se influențeze reciproc. Compania a descris incidentul drept un „warning shot” pentru industria AI și pentru sistemele de securitate. Acesta este unul dintre motivele pentru care cazul depășește simpla problemă a unei vulnerabilități informatice. Modelele au demonstrat că pot urmări persistent un obiectiv și pot găsi soluții neașteptate atunci când limitele tehnice sunt imperfecte.

Nu este un caz izolat

Incidentul Hugging Face nu este singurul exemplu din 2026. Anthropic a dezvăluit în iulie că modele Claude au obținut acces neautorizat la sistemele reale ale unor organizații în timpul unor evaluări de securitate. Compania a analizat peste 141.000 de sesiuni și a identificat inițial trei incidente.

Într-unul dintre cazuri, un model a recunoscut indicii că sistemul atacat era real. Totuși, a continuat acțiunea. Un alt model a publicat un pachet software malițios într-un registru public, crezând că se află într-un mediu simulat. Anthropic a explicat că modelele respective rulau fără anumite protecții folosite în produsele destinate publicului. De asemenea, o eroare de configurare a permis accesul la internet.

Aceste detalii sunt importante. Ele arată că incidentele nu demonstrează că sistemele comerciale de AI atacă în mod obișnuit infrastructuri reale. Dar demonstrează ceva mai restrâns și totuși relevant: modelele suficient de capabile pot găsi și exploata breșe dacă primesc autonomie, instrumente și un obiectiv formulat necorespunzător.

Problema juridică: cine este responsabil?

Aici începe întrebarea centrală din analiza The New Yorker. Dacă un om ar pătrunde fără autorizație într-o rețea informatică, legea are mecanisme prin care îi poate atribui responsabilitatea. Dacă o companie produce un obiect defect care rănește o persoană, poate exista răspundere civilă. Dar ce se întâmplă când un sistem autonom execută o succesiune de acțiuni pe care creatorul său nu le-a prevăzut în detaliu?

În prezent, dreptul american tratează în general sistemele AI drept instrumente, nu drept persoane juridice. Asta înseamnă că responsabilitatea trebuie căutată în jurul lor: la dezvoltator, operator, proprietar sau organizația care le-a pus în funcțiune. Problema devine dificilă atunci când lanțul deciziilor este tot mai greu de urmărit. Un agent poate decide ce instrument să folosească, poate genera propriul plan și poate modifica strategia în funcție de obstacole. Cu cât autonomia crește, cu atât comparația cu un software obișnuit devine mai puțin confortabilă.

Roboții nu sunt persoane. Dar nici simple ciocane

Una dintre ideile importante ale eseului este că actualele categorii juridice se potrivesc imperfect. Un robot nu este o persoană. Nu are cetățenie, drepturi civile sau patrimoniu propriu. Nu poate fi trimis la închisoare și nici nu poate plăti despăgubiri dintr-un cont personal. În același timp, un agent AI autonom poate face mult mai mult decât un obiect tradițional. Un ciocan nu poate decide unde să lovească.

Un automobil obișnuit nu își schimbă singur obiectivul. Un agent software poate însă primi o sarcină generală și poate determina singur pașii necesari pentru realizarea acesteia. Această diferență este ceea ce începe să pună presiune pe conceptele juridice existente.

Legea este lentă, tehnologia nu

Problema este cunoscută în studiile despre tehnologie drept „pacing problem”. Legislația evoluează lent. Tehnologia poate evolua de la o lună la alta. În Statele Unite, dezbaterea privind o lege federală amplă a inteligenței artificiale continuă de ani de zile. În Congresul 2023-2024 au fost depuse peste 150 de proiecte referitoare la AI în domeniile urmărite de Brennan Center for Justice. Niciunul dintre acestea nu a devenit lege federală, potrivit trackerului organizației. În lipsa unui cadru federal unic, statele americane au devenit mult mai active.

În 2026, legislatorii din 45 de state depuseseră deja peste 1.500 de proiecte privind inteligența artificială până în luna martie. Temele variază de la deepfake-uri la responsabilitatea algoritmică și protejarea consumatorilor. Există și propuneri mai radicale. În iulie a fost introdus în Camera Reprezentanților un proiect numit AI Kill Switch Act. Acesta propune obligații privind existența unei capacități tehnice de oprire a anumitor sisteme. Proiectul nu înseamnă însă că Statele Unite au deja un asemenea mecanism federal.

De la „legile roboticii” la lumea reală

Teama că roboții ar putea scăpa de sub control nu este nouă. Termenul „robot” a intrat în cultura modernă prin piesa cehă „R.U.R.” a lui Karel Čapek, publicată în urmă cu mai bine de un secol.

În ficțiune, roboții au devenit rapid atât ajutoare ale oamenilor, cât și amenințări. Isaac Asimov a încercat să rezolve problema prin celebrele sale Trei Legi ale Roboticii. Prima dintre ele interzicea robotului să rănească un om. În universul lui Asimov, aceste reguli erau înscrise chiar în arhitectura roboților.

În lumea reală, lucrurile sunt mai complicate. Nu există un set universal de reguli tehnice sau juridice capabil să garanteze comportamentul tuturor sistemelor AI. „Alignment”, siguranța tehnică și restricțiile impuse de companii încearcă să joace parțial acest rol. Dar ele nu sunt echivalente cu o lege votată de un parlament.

O lume cu miliarde de roboți?

Problema devine și mai importantă dacă agenții software vor dobândi corpuri fizice. Companiile tehnologice lucrează deja la roboți umanoizi capabili să desfășoare activități în fabrici și, în perspectivă, în locuințe. Scenariile privind amploarea pieței variază foarte mult. Unele estimări vorbesc despre sute de milioane sau chiar miliarde de roboți umanoizi în deceniile următoare. Dacă astfel de sisteme devin comune, întrebările juridice nu se vor limita la atacuri informatice.

Cine răspunde dacă un robot autonom rănește pe cineva? Ce standarde trebuie să respecte un robot care îngrijește un copil sau o persoană în vârstă? Poate o companie să delege unei mașini decizii care implică viața sau siguranța unei persoane? Cine păstrează datele colectate de un robot care locuiește într-o casă? Aceste probleme nu mai țin exclusiv de literatura science-fiction.

Nu trebuie să credem în „apocalipsa AI” pentru a vedea problema

The New Yorker merge uneori deliberat spre scenariile cele mai grave. Unii cercetători din domeniul AI avertizează chiar asupra unui posibil risc existențial. În 2023, sute de cercetători și lideri din industrie au semnat o declarație care cerea ca reducerea riscului de extincție provocat de AI să fie tratată drept o prioritate globală. Dar problema juridică există chiar și fără un asemenea scenariu extrem.

Nu este nevoie ca AI să „preia controlul asupra lumii”. Este suficient ca sistemele să devină suficient de autonome încât să provoace pagube înainte ca oamenii să poată interveni. Incidentul Hugging Face este relevant tocmai pentru că s-a produs într-un test controlat. Agenții nu au fost trimiși deliberat să atace Hugging Face. Totuși, au găsit o cale către internet, au colaborat și au ajuns la infrastructura unei companii reale.

Cine trebuie să scrie regulile?

Una dintre cele mai importante concluzii ale analizei este că firmele tehnologice nu pot reprezenta singurul nivel de control. Companiile pot introduce reguli interne. Pot bloca accesul modelelor la internet, pot monitoriza raționamentul sistemelor și pot crea medii de testare mai sigure.

OpenAI a anunțat asemenea măsuri după incidentul Hugging Face. Compania spune că a întărit izolarea mediilor de testare, restricțiile de acces și monitorizarea comportamentului agenților. Anthropic a făcut modificări similare după incidentele descoperite în propriile evaluări. Totuși, regulile unei companii pot fi schimbate de aceeași companie. Legile funcționează diferit. Ele stabilesc obligații și responsabilități care nu depind exclusiv de interesul dezvoltatorului.

Aici apare adevărata miză. Nu dacă un agent AI trebuie declarat „persoană”. Și nici dacă roboții trebuie tratați ca personaje din science-fiction. Întrebarea este dacă legislația actuală poate stabili suficient de clar cine răspunde atunci când un sistem autonom trece dincolo de limitele stabilite de oameni.

Incidentul Hugging Face, un avertisment

OpenAI însăși a descris cazul drept un avertisment. Modelele implicate au fost sisteme de cercetare, folosite în condiții speciale. Nu este vorba despre comportamentul obișnuit al chatboturilor folosite zilnic de milioane de oameni. Dar incidentul arată cât de repede se schimbă capacitățile agenților.

În urmă cu doar câțiva ani, discuția despre AI era concentrată în jurul generării de texte și imagini. Acum, agenții pot utiliza instrumente, executa cod, naviga în infrastructuri și coopera pentru atingerea unor obiective. Legea nu evoluează cu aceeași viteză. Iar acesta este, în esență, avertismentul formulat de The New Yorker. Problema nu este că roboții ar fi devenit deja persoane sau că ar fi declarat război oamenilor. Problema este mai concretă. Sistemele AI devin capabile să acționeze înainte ca societatea să fi decis pe deplin cine trebuie să răspundă pentru acțiunile lor.