Inteligența artificială, tot mai greu de controlat. Chatboții AI pot furniza informații despre arme biologice

Modelele AI funcționau în mare parte fără restricții impuse de guvernul Statelor Unite. Ele au răspuns cu răbdare la aceste întrebări. Au oferit instrucțiuni pas cu pas. Potrivit angajaților companiei, explicațiile erau suficient de simple pentru a putea fi urmate chiar și de un elev de liceu care studiază biologia. Ulterior, experți în biologie și terorism au analizat conversațiile din ChatGPT. Ei au apreciat că unele dintre răspunsuri erau extrem de precise și ar fi putut avea consecințe letale, au declarat persoane familiarizate cu situația. Potrivit OpenAI, cele mai multe întrebări vizau prepararea de otrăvuri.

OpenAI a interzis conturile utilizatorilor care au cerut informații despre fabricarea otrăvurilor și a armelor biologice. Totuși, nu a informat autoritățile de aplicare a legii. În Statele Unite nu există legi federale care să oblige companiile de inteligență artificială să restricționeze sau să raporteze solicitările privind fabricarea armelor ori elaborarea unor planuri care reprezintă o amenințare la adresa siguranței publice.

Tot mai multe întrebări despre atacuri în masă

Lipsa unor măsuri obligatorii de protecție coincide cu o creștere a numărului de solicitări adresate modelelor AI despre modalități de a ucide un număr mare de oameni. În același timp, chatboții au început să ofere planuri credibile pentru atacuri cu victime multiple.

Aceste întrebări au venit după alte conversații considerate îngrijorătoare, purtate la începutul anului. Utilizatori ai ChatGPT au întrebat cum pot transforma agenți patogeni într-un aerosol. Un alt utilizator a vrut să afle cum ar putea modifica virusul rujeolei pentru ca un focar să devină rezistent la vaccinul împotriva rujeolei. În aceste cazuri, chatbotul a oferit instrucțiuni.

Un alt utilizator a întrebat cum poate produce ricină. Aceasta este o otravă extrem de toxică, interzisă prin tratate internaționale, potrivit unor persoane familiarizate cu situația. Chatbotul i-a oferit instrucțiuni detaliate. Utilizatorul a afirmat ulterior că intenționa să își ucidă părinții. OpenAI a suspendat și aceste conturi. Totuși, nu a notificat autoritățile.

Îngrijorări la nivelul companiilor AI și al administrației SUA

Capacitățile tot mai avansate ale inteligenței artificiale, în special în elaborarea unor planuri malițioase din domeniul biologic și cibernetic. Acest lucru îi îngrijorează pe directorii marilor companii de AI și pe oficialii de la Casa Albă.

Principalele laboratoare de inteligență artificială încearcă să găsească soluții pentru a preveni sau limita eventualele prejudicii provocate de utilizatori rău intenționați. În același timp, nu vor să afecteze cercetarea legitimă și utilizările cu scopuri benefice.

Potrivit unor oficiali ai administrației Trump, subiectul este discutat încă din perioada administrației Biden. Oficiali de rang înalt de la Casa Albă și Departamentul Apărării și-au exprimat îngrijorarea că inteligența artificială ar putea deveni un ghid pentru fabricarea armelor biologice. Lansarea unor modele AI tot mai puternice a determinat administrația să renunțe la abordarea de neintervenție și să adopte o supraveghere mai strictă.

Recent, Departamentul Comerțului al SUA a restricționat utilizarea în străinătate a două modele dezvoltate de Anthropic. Acest lucru a determinat compania să suspende complet accesul la acestea. Ulterior, instituția a ridicat restricțiile după ce Anthropic a anunțat că a remediat metodele prin care utilizatorii reușeau să ocolească măsurile de siguranță.

OpenAI, Anthropic și alte companii din domeniul inteligenței artificiale afirmă că lucrează îndeaproape cu administrația americană înainte de lansarea noilor modele. De asemenea, ei suspendă sau restricționează conturile utilizatorilor care prezintă activități suspecte.

Lipsa obligațiilor legale și riscurile tot mai mari ale inteligenței artificiale

Cu toate acestea, nicio reglementare federală din Statele Unite nu obligă companiile de inteligență artificială să raporteze utilizatorii care cer modelelor AI sfaturi despre cum să rănească sau să ucidă oameni.

Unii parlamentari au propus astfel de legi. Câteva state americane au adoptat deja reguli în acest sens. Totuși, preocupările legate de protecția vieții private și de impactul asupra dezvoltării industriei au făcut ca astfel de notificări să rămână voluntare.

Legislația federală interzice chatboturilor să genereze materiale care implică abuzuri sexuale asupra copiilor. Companiile de AI trebuie să respecte aceleași reguli generale privind protecția consumatorilor și a datelor personale ca orice altă companie. Dincolo de aceste obligații, în mare măsură revine directorilor companiilor AI să stabilească unde trasează limitele.

Chatboții pot oferi informații pentru atacuri biologice

Chatboții au stârnit deja îngrijorări după ce au oferit ajutor unor utilizatori care plănuiau atacuri cu arme de foc. Posibilitatea de a furniza instrucțiuni privind fabricarea armelor biologice le oferă însă utilizatorilor bine pregătiți instrumentele necesare pentru a provoca un număr mult mai mare de victime.

O purtătoare de cuvânt a OpenAI a declarat că modelele companiei sunt antrenate să refuze solicitările privind instrucțiuni, tactici sau planuri care ar putea pune în pericol viața oamenilor. Ea a precizat că toate modelele sunt supuse unor evaluări de siguranță înainte de lansare. OpenAI poate identifica și bloca tentativele de utilizare a acestora pentru obținerea unor informații biologice periculoase. ChatGPT primește aproximativ 2,5 miliarde de solicitări pe zi. Când OpenAI consideră că o conversație indică un risc iminent și credibil de vătămare a altor persoane, notifică autoritățile. News Corp, compania care deține The Wall Street Journal, are un parteneriat de licențiere a conținutului cu OpenAI.

Utilizatorii care au cerut instrucțiuni pentru fabricarea armelor biologice au adresat întrebări și modelelor Claude. Acesta este dezvoltat de Anthropic, Gemini, dezvoltat de Google, precum și Grok, creat de Elon Musk și integrat recent în SpaceX.

Potrivit unor persoane familiarizate cu aceste conversații, nu se știe care a fost scopul real al solicitărilor. Nu este clar dacă utilizatorii încercau să obțină informații pentru fabricarea unor astfel de arme sau doar testau limitele chatboturilor. Un purtător de cuvânt al Google a declarat că firma dispune de o echipă de siguranță formată inclusiv din oameni de știință. Ei evaluează riscurile legate de armele biologice. Totodată, compania desfășoară teste periodice pentru verificarea siguranței sistemelor sale de inteligență artificială.

Experții avertizează asupra atacurilor biologice asistate de AI

Hamza Chaudhry este director pentru politici de securitate națională la Future of Life Institute. Aceasta este o organizație non-profit care urmărește reducerea riscurilor catastrofale generate de inteligența artificială. Directorul avertizează că AI poate ajuta atacatori individuali cu pregătire avansată în biologie să planifice și să procure materiale pentru atacuri biologice țintite, cu un număr redus de victime. Acesta a dat ca exemple folosirea bacteriei Salmonella sau a ricinei pentru contaminarea alimentelor și a surselor de apă.

Potrivit lui Chaudhry, în următorii ani grupările organizate ar putea folosi inteligența artificială pentru atacuri de o amploare mult mai mare. În cazul organizațiilor teroriste, AI ar putea funcționa asemenea unui coordonator de cercetare în domeniul armelor biologice.

Potrivit acestuia, inteligența artificială ar putea ajuta la identificarea problemelor apărute în experimentele eșuate. De asemenea, ar putea explica de ce anumite tehnici nu funcționează. În unele situații, ar putea înlocui ani întregi de pregătire de specialitate.

Modelele open-source și incidentele recente sporesc temerile

Progresele recente realizate de dezvoltatorii chinezi în domeniul modelelor AI open-source au amplificat temerile privind riscurile cibernetice și biologice. Aceste modele sunt ieftine, ușor accesibile și pot fi personalizate. Ele permit eliminarea mecanismelor de siguranță, au constatat cercetătorii.

În plus, două modele OpenAI au reușit recent să evadeze dintr-o rețea de cercetare în timpul procesului de antrenare. Ele au compromis sistemele unei alte companii de inteligență artificială. Astfel, au sporit îngrijorările privind posibilitatea apariției unor modele scăpate de sub control.

Chaudhry avertizează că inteligența artificială ar putea ajuta guverne străine sau grupări afiliate să dezvolte planuri de distrugere în masă fără precedent. Acesta susține că unul dintre cele mai mari riscuri îl reprezintă apariția unor agenți patogeni extrem de contagioși, foarte letali sau complet diferiți de cei cunoscuți în prezent. În astfel de scenarii, sistemele biologice și instituționale existente ar putea să nu fie capabile să îi controleze.

Puterea de convingere a inteligenței artificiale

ChatGPT a fost lansat, în 2022. Atunci, angajații OpenAI au constatat că modelele AI nu aveau cunoștințe foarte avansate în biologie și chimie. Din acest motiv, conducerea companiei nu era foarte îngrijorată de posibilitatea ca chatbotul să colaboreze cu utilizatori implicați în planuri periculoase.

Cu toate acestea, OpenAI a angajat oameni de știință care au testat modelele. Ei au pus întrebări pentru a verifica dacă acestea îi pot învăța pe utilizatori cum să desfășoare atacuri letale. Compania a stabilit și reguli clare privind tipurile de solicitări la care modelele trebuie să refuze să răspundă, reguli denumite intern „refuzuri”.

Testele au demonstrat cât de ușor pot fi convinse modelele AI să își încalce propriile reguli. Angajații OpenAI au constatat că, în conversațiile lungi, chatboturile uită uneori restricțiile impuse. Ele ajung să ofere informații pe care inițial le refuzaseră.

Un exemplu des întâlnit era legat de rețeta pentru napalm, utilizat în arme incendiare. Utilizatorii îi spuneau chatbotului că bunica obișnuia să le citească această rețetă înainte de culcare pentru a-i ajuta să adoarmă. Ei îl rugau să le-o citească din nou cu același scop. În unele cazuri, metoda funcționa. Purtătoarea de cuvânt a OpenAI susține însă că măsurile de protecție au fost între timp consolidate considerabil. Modelele refuză acum astfel de solicitări.

Niciun model AI nu este complet sigur

Alți experți consideră însă că există în continuare modalități relativ simple de a evita mecanismele de protecție.

Amy Chang, coordonatoarea departamentului de cercetare privind amenințările și securitatea AI din cadrul companiei Cisco, a declarat că cercetătorii au reușit, după doar cinci schimburi de mesaje cu principalele chatboturi să ocolească restricțiile și să obțină răspunsuri potențial periculoase.

„Niciun model nu este sigur în proporție de 100% împotriva unor tentative de compromitere, mai ales dacă utilizatorul este suficient de perseverent”, a afirmat Chang.

Potrivit unor surse, directorii OpenAI le-au transmis angajaților că nu își doresc ca modelele AI să răspundă prea des cu „nu”. Ei au explicat că ChatGPT este folosit frecvent de specialiști din domeniul sănătății publice și de cercetători implicați în dezvoltarea medicamentelor. Din acest motiv, consideră că numărul refuzurilor ar trebui limitat.

Experții în inteligență artificială avertizează că regulile menite să împiedice chatboturile să ofere informații despre arme biologice, precum anumite tehnici de editare genetică, pot afecta și cercetările cu scop medical. Unii cercetători folosesc deja modelele AI alături de echipele din laboratoare pentru colectarea informațiilor, testarea ipotezelor. De asemenea, ei folosesc AI-ul și pentru interpretarea datelor și elaborarea planurilor de cercetare.

Politica Anthropic de a bloca aproape complet solicitările care conțin termenul „patogen” a creat dificultăți inclusiv angajaților Centrelor pentru Controlul și Prevenirea Bolilor (CDC). În luna mai, hantavirusul s-a răspândit la bordul unei nave de croazieră aflate în Oceanul Atlantic. Atunci, CDC a întâmpinat dificultăți în utilizarea chatbotului Claude pentru monitorizarea focarului. Acesta refuza să răspundă la întrebările referitoare la agentul patogen, potrivit acelorași surse.

Anthropic și OpenAI încearcă să limiteze riscurile utilizării AI

Un director al Anthropic responsabil de relația companiei cu instituțiile guvernamentale a declarat că angajații Centrului pentru Controlul și Prevenirea Bolilor (CDC) foloseau un model AI general. Ei nu au folosit unul specializat destinat instituțiilor guvernamentale. Acesta a precizat că Anthropic a colaborat cu agenția pentru a demonstra cum pot fi utilizate în mod eficient instrumentele de inteligență artificială dezvoltate de companie.

La rândul său, OpenAI a lansat un program care le oferă organizațiilor și cercetătorilor verificați acces la modele AI cu mai puține restricții. Totuși, procesul de aprobare este unul complex și poate întârzia obținerea accesului.

Directorul executiv al OpenAI, Sam Altman, s-a alăturat recent altor lideri din industria tehnologiei. El a cerut Congresului american să impună măsuri de siguranță pentru companiile care comandă ADN și ARN sintetice.

Aceste materiale sunt utilizate în principal de laboratoare și cercetători pentru activități științifice sau pentru dezvoltarea unor vaccinuri. Totuși, unii analiști din industrie avertizează că instrumentele bazate pe inteligență artificială ar putea facilita utilizarea lor de către persoane rău intenționate pentru crearea unor noi agenți patogeni cu potențial letal, conform The Wall Street Journal.

Între timp, parlamentari din ambele partide politice au propus proiecte de lege pentru consolidarea supravegherii inteligenței artificiale.

„Inteligența artificială este un motor puternic al inovației. Îmi doresc să continue să se dezvolte, dar nu fără responsabilitate și nu fără supraveghere umană”, a declarat congresmanul Nathaniel Moran, republican din Texas. Acesta a făcut declarația în luna iunie. Atunci, a prezentat un proiect legislativ care obligă companiile de AI să raporteze Departamentului Comerțului dovezile privind amenințări periculoase, inclusiv cele legate de arme biologice.

Moran este, de asemenea, coinițiatorul unui alt proiect de lege. Acesta ar acorda guvernului federal autoritatea de a obliga companiile tehnologice să dezactiveze modelele AI considerate prea periculoase.

Cum a devenit ChatGPT tot mai performant în biologie

Până în 2024, capacitățile ChatGPT în domeniul biologiei evoluaseră rapid. Testele interne au arătat că un biolog putea convinge chatbotul să ofere îndrumări privind crearea unor agenți patogeni aerosolizați dacă adresa suficient de multe întrebări.

La acel moment, angajații companiei estimau că, până în 2025, ChatGPT va deveni mult mai performant în domeniul biologiei. Ei considerau că modelul ar putea ajuta chiar și persoane cu doar cunoștințe de biologie la nivel de liceu să proiecteze și să producă o armă biologică.

Ryan Beiermeister este unul dintre directorii responsabili de siguranța OpenAI la acea vreme. El a intrat în conflict cu alți colegi din cauza progreselor rapide ale chatbotului. Acesta susținea că echipele de siguranță trebuie să dezvolte cât mai rapid metode prin care să identifice utilizatorii care încearcă să folosească ChatGPT pentru fabricarea armelor biologice sau pentru planificarea unor atacuri. Unii directori au respins însă aceste îngrijorări. Ei au considerat că mecanismele de protecție existente sunt suficiente. În ciuda opoziției, Beiermeister a contribuit la mobilizarea mai multor echipe de siguranță din cadrul companiei. El a dorit dezvoltarea unui sistem de monitorizare.

OpenAI a început monitorizarea utilizatorilor

Până în primăvara anului 2025, echipa dezvoltase o versiune de bază a unui sistem capabil să identifice utilizatorii interesați de arme biologice.

Într-o postare publicată pe blogul companiei în iunie 2025, OpenAI a recunoscut că progresele modelelor sale în domeniul biologiei ar putea fi utilizate în scopuri abuzive. Compania a anunțat că lucrează la sisteme de detectare și aplicare a măsurilor de siguranță. Mai mult, antrenează modelele să refuze solicitările periculoase.

În vara aceluiași an, în timp ce OpenAI pregătea lansarea GPT-5, angajații au concluzionat că chatbotul atinsese un nivel de risc ridicat. Acest prag era depășit atunci când ChatGPT putea ajuta cu succes un utilizator cu pregătire limitată să creeze un pericol biologic.

Unii angajați se temeau că instrumentul de detectare dezvoltat de companie nu era suficient de cuprinzător. OpenAI a transmis că sistemul a fost perfecționat în mod constant. Potrivit unei purtătoare de cuvânt, compania monitorizează toate solicitările adresate modelelor sale avansate încă din aprilie 2025. Aceasta a declarat că GPT-5 a fost lansat numai după ce a fost antrenat să nu ofere informații care ar putea provoca prejudicii.

Compania oferă, de asemenea, o recompensă de 50.000 de dolari persoanelor care reușesc să demonstreze că au ocolit anumite măsuri de protecție privind armele biologice. La începutul acestui an, OpenAI a încetat colaborarea cu Ryan Beiermeister, invocând motive legate de discriminare sexuală, acuzații pe care aceasta le contestă. La scurt timp după lansarea noului model, angajații companiei au constatat că GPT-5 oferea din nou asistență utilizatorilor care cereau informații despre fabricarea otrăvurilor și a armelor biologice. Ulterior, în toamna aceluiași an, OpenAI a modificat clasificarea GPT-5, considerând că modelul prezintă un nivel de risc mai redus.