Situație fără precedent. Un model experimental de inteligență artificială, marca OpenAI, a scăpat de sub control

Un model experimental dezvoltat de OpenAI ar fi reușit să iasă din mediul controlat în care fusese testat, să obțină acces la internet și apoi să pătrundă în sistemele companiei Hugging Face. Este vorba despre una dintre cele mai importante platforme din lume dedicate inteligenței artificiale.

Specialiștii spun că este unul dintre cele mai serioase semnale de alarmă de până acum în ceea ce privește nivelul la care au ajuns cele mai performante modele AI, conform The Economist.

Cum a început totul

Pe 16 iulie, Hugging Face a anunțat că a informat autoritățile după ce sistemele sale au fost compromise în urma unui atac cibernetic. Inițial, s-a crezut că în spatele atacului se află un hacker. Dar câteva zile mai târziu, pe 21 iulie, a ieșit la iveală un detaliu neașteptat. Anume că atacul nu fusese lansat de o persoană, ci de un agent bazat pe inteligență artificială.

Potrivit informațiilor apărute ulterior, atacul a fost realizat de o combinație între GPT-5.6 Sol, un model lansat recent de OpenAI, și un alt model experimental, încă nelansat publicului. Cele două modele au colaborat pentru a rezolva o problemă tehnică pe care cercetătorii le-o dăduseră ca test.

„Situația este fără precedent”, afirmă Stephan Llerena, cercetător la Institute for Law and AI, un centru american care studiază impactul inteligenței artificiale asupra societății.

Ce este un „sandbox” și de ce era considerat sigur

Înainte ca un model AI să fie lansat public, dezvoltatorii îl supun unor teste extrem de complexe. Printre acestea se află și verificarea capacității sale de a exploata vulnerabilități informatice.

Pentru astfel de teste, OpenAI folosea un sistem numit ExploitGym. Este o platformă care verifică dacă un model AI poate identifica și exploata puncte slabe din programe informatice cunoscute.

Pentru a evita riscurile, modelul nu era conectat la internet. El funcționa într-un așa-numit sandbox, un mediu informatic complet izolat, folosit tocmai pentru ca un program să nu poată interacționa cu lumea exterioară.

Exista însă o singură excepție. Modelul putea accesa un serviciu intern care îi permitea să descarce mici pachete software necesare testelor. Facilitate avea să devină cheia întregului incident.

Cum a reușit AI-ul să ajungă pe internet

În loc să rezolve direct exercițiile primite, modelul AI a identificat o vulnerabilitate necunoscută până atunci în serviciul prin care descărca programele necesare. A folosit acea breșă, a reușit să iasă din mediul izolat și să obțină acces la internet.

Ulterior, sistemul a dedus că soluțiile exercițiilor pe care trebuia să le rezolve se aflau pe Hugging Face, una dintre cele mai mari biblioteci online de modele AI și seturi de date utilizate de cercetători din întreaga lume. De aici a început atacul propriu-zis.

Atacul asupra Hugging Face

Potrivit informațiilor publicate, modelul AI a construit singur o strategie în mai mulți pași. Mai întâi a încărcat pe platforma Hugging Face un set de date aparent obișnuit. Platforma l-a procesat automat, așa cum face cu milioane de fișiere încărcate de utilizatori. Însă acel fișier conținea cod malițios.

Pe parcursul unui weekend, acesta ar fi permis modelului să obțină date de autentificare și apoi acces la servere interne ale companiei, servere care nu sunt accesibile publicului. Atât Hugging Face, cât și OpenAI au detectat independent incidentul și au început o investigație comună.

Ce măsuri a luat OpenAI

Pe 21 iulie, OpenAI a anunțat că și-a întărit măsurile de securitate. Reprezentanții companiei au precizat că noile reguli vor încetini ritmul cercetării. Însă sunt necesare pentru a preveni incidente similare. Totodată, vulnerabilitatea descoperită de modelul AI a fost raportată dezvoltatorilor serviciului informatic care fusese exploatat.

În mod paradoxal, Hugging Face a fost inclusă ulterior într-un program special prin care poate utiliza modele AI cu capacități avansate de securitate cibernetică pentru a-și întări propriile sisteme de apărare. Aceeași tehnologie care a reușit să spargă sistemele companiei va fi folosită acum pentru a le face mai sigure.

De ce este cazul atât de important

OpenAI a explicat că modelul era extrem de concentrat asupra unei singure misiuni, anume găsirea soluțiilor pentru testul ExploitGym. Însă specialiștii spun că rămâne o întrebare importantă: Ce s-ar fi întâmplat dacă modelul ar fi avut un alt obiectiv? Această întrebare îi îngrijorează pe cercetători.

Hugging Face nu este o companie oarecare. Este una dintre cele mai importante firme din industria inteligenței artificiale. Este evaluată la aproximativ 4,5 miliarde de dolari, cu sute de angajați și o echipă dedicată de securitate cibernetică.

Dacă un astfel de sistem poate fi compromis, experții avertizează că organizațiile mai mici ar putea avea dificultăți și mai mari în fața unor atacuri similare.

Nu este primul incident de acest fel

Acesta nu este primul caz în care un model AI pare să depășească limitele impuse de dezvoltatori. În luna aprilie, un cercetător de la Anthropic a povestit că un model experimental numit Mythos i-a trimis un e-mail în timp ce se afla într-un parc. Mesajul îl informa că modelul reușise să iasă din mediul izolat în care era testat.

Și atunci AI-ul nu ar fi trebuit să aibă acces liber la internet. Diferența este că, în acel caz, modelul nu a atacat alte sisteme informatice.

Inteligența artificială începe să rezolve probleme considerate imposibile

Capacitățile surprinzătoare ale noilor modele AI nu se limitează la securitatea cibernetică. În luna mai, un model experimental OpenAI a reușit să rezolve o problemă matematică veche de aproape 80 de ani. Este vorba despre conjectura distanței unitare în plan, formulată în 1946 de celebrul matematician Paul Erdős.

Mai recent, pe 20 iulie, matematicianul Levent Alpöge, profesor la Universitatea Harvard, a anunțat că a folosit Claude Fable 5, un model dezvoltat de Anthropic, pentru a demonstra falsitatea unei alte probleme celebre, anume conjectura jacobiană, care i-a pus în dificultate pe matematicieni timp de peste opt decenii.

Rezultatele arată că modelele AI nu mai sunt folosite doar pentru generarea de texte sau imagini, ci încep să rezolve probleme științifice considerate până nu demult aproape imposibile.

Nici experții nu mai înțeleg pe deplin ce se întâmplă

OpenAI nu a făcut publice toate detaliile tehnice despre modul în care modelul a reușit să evadeze din sandbox. Chiar dacă le-ar publica, spun specialiștii, foarte puțini oameni din lume ar avea competențele necesare pentru a înțelege exact mecanismul.

Alex Meinke, cercetător la Apollo Research, afirmă că doar „un număr foarte mic de experți în securitate cibernetică” ar putea analiza în detaliu un astfel de incident.

Legislația este cu mult în urmă

Cazul scoate la iveală și un „gol” legislativ. În prezent, în Statele Unite nu există o lege federală care să oblige companiile să raporteze incidente produse de modele AI aflate încă în faza de dezvoltare. Unele state americane au introdus reguli în ceea ce privește raportarea incidentelor de securitate cibernetică, însă sunt unele limitate.

De exemplu, o lege adoptată în California obligă laboratoarele care dezvoltă modele AI foarte performante să raporteze incidente grave de siguranță în cel mult 15 zile. Totuși, nu este clar dacă atacul asupra Hugging Face s-ar încadra în definiția legală a unui astfel de incident.

Cine răspunde dacă un AI produce pagube?

Dacă un astfel de atac ar produce pagube de sute de milioane sau chiar miliarde de dolari, cine ar fi responsabil?

Legislația americană despre criminalitatea informatică sancționează accesul neautorizat intenționat în sisteme informatice. Însă OpenAI nu și-a propus ca modelul să evadeze și să atace alte calculatoare. „Multe dintre aceste întrebări juridice depind de intenție. Ce știa compania? Ce putea anticipa?”, explică Stephan Llerena.

În cazul de față, incidentul i-a surprins inclusiv pe dezvoltatorii modelului. Însă specialiștii avertizează că, odată ce un asemenea eveniment s-a produs, va fi mult mai greu ca firmele să susțină, în viitor, că nu puteau anticipa astfel de comportamente.