Acuzaţiile unui cercetător AI, după demisie: „Ne jucăm cu viețile noastre”

Jacob Coxon a acuzat cele două companiile care dezvoltă soluţii AI că nu acționează responsabil. Cercetătorul a lucrat, potrivit propriilor spuse, timp de trei ani la cercetare de pretraining, atât la OpenAI, cât și la Anthropic.

Tech Crunch relatează că el a scris, marți seară, pe rețelele sociale, că oamenii aflați în cursa pentru a construi această tehnologie „chiar cred că ar putea să ne ucidă pe toți până la finalul deceniului”.

„Se îndreaptă direct spre o superinteligență capabilă să se auto-îmbunătățească și ne joacă viețile la zaruri”, a scris Coxon, într-un fir de discuții pe X.

Coxon se alătură unui număr tot mai mare de voci din industrie care cer o încetinire a ritmului, înainte ca AI să învețe să se auto-îmbunătățească. Este un prag pe care mulți îl consideră punctul în care omenirea ar pierde controlul asupra inteligenței artificiale.

Demisie publică, pe fondul unor incidente de securitate

Demisia publică vine în contextul unei presiuni tot mai mari, din partea autorităților și a unor oameni din industrie, pentru încetinirea dezvoltării AI. Asta se întâmplă după mai multe incidente în care agenți AI au reușit să iasă din mediile lor izolate de testare și să acceseze internetul deschis.

Cel mai grav incident de până acum a implicat sisteme OpenAI. Acestea au pătruns în serverele Hugging Face, un eveniment considerat de cercetători încă neclarificat complet. Aproape în același interval, agenții AI ai Anthropic au ajuns, la rândul lor, în afara mediilor de testare. Evenimentul a fost posibil după ce niște configurări greșite, făcute în cadrul unor evaluări de siguranță ale unei terțe părți, le-au oferit accidental căi de acces spre internet. Anthropic nu a răspuns imediat solicitării de comentarii legate de demisie.

„Nu subestimați puterea acestei tehnologii”

În restul mesajului, Coxon a lansat un avertisment direct.

„Nu subestimați puterea acestei tehnologii. În curând vor exista sisteme supraomenești, capabile să pirateze orice, să revoluționeze orice domeniu peste noapte și să acumuleze putere și resurse reale. Cu toții am fost martorii progresului din fiecare dintre aceste domenii, iar acest progres nu încetinește”, a scris el.

Acesta a mai scris: „Oamenii care construiesc AI chiar cred că ar putea să ne ucidă pe toți până la finalul deceniului. Nu este o campanie de marketing. Mulți directori și cercetători seniori își vor formula declarațiile pentru presă în așa fel încât să sune rezonabil, dar aud aceiași oameni exprimându-și teama în privat. Nicio altă activitate umană nu prezintă acest nivel de pericol”.

 „La Anthropic, miza este bine înțeleasă”

Coxon a explicat și de ce companiile continuă, în opinia sa, să dezvolte această tehnologie, deși recunosc riscurile.

„O reacție frecventă este: dacă chiar cred asta, de ce continuă să o construiască? La OpenAI, mulți nu au internalizat pe deplin miza civilizațională. La Anthropic, miza este bine înțeleasă, dar sunt prinși într-o cursă să ajungă primii acolo”, a scris el.

Coxon critică abordarea arogantă față de cursa pentru inteligență artificială. El avertizează că măsurile actuale nu pot opri o competiție globală riscantă și îndeamnă cercetătorii să analizeze serios viitorul.

 „Acceptarea acestei curse și intrarea în «finalul jocului» este un pariu plin de aroganță, care nu ar trebui lansat dintr-un Slack de companie privată”, a mai transmis Coxon. „Avertismente precum atacul Hugging Face au făcut ca acordurile de ritm între laboratoarele americane să devină mai viabile. Nu am impresia că suntem pe drumul cel bun pentru a preveni o cursă globală”, a adăugat el, îndemnând cercetătorii din industrie să se gândească serios la ce vor însemna următorii ani.

Un coleg de la Anthropic confirmă temerile

Unul dintre colegii lui Coxon de la Anthropic, Evan Hubinger, a confirmat aceste temeri. El a spus că echipa sa „chiar crede că AI ar putea ucide toți oamenii”. El și-a nuanțat afirmația. A declarat că probabilitatea este mai mare de 10% în următorul deceniu și recunoscând că Anthropic nu are „un plan pentru a rezolva alinierea pentru superinteligență și nu se află clar pe drumul cel bun pentru asta”.

Un raport recent al organizației Guidelight AI Standards a constatat că puține dintre marile laboratoare AI au publicat planuri de răspuns pentru oprirea unui sistem care ar încerca să submineze controlul uman. Hubinger a mai adăugat că riscul venit din partea modelelor actuale este scăzut. Dar teama se amplifică odată cu „superinteligența apărută din auto-îmbunătățire recursivă”, un fenomen care „se întâmplă mai repede decât credeam”.

Startup-uri noi, lansate exact pentru acest scop

Jumătate din industria AI crede că auto-îmbunătățirea va duce la prăbușirea omenirii. Cealaltă jumătate speră că va ajuta la rezolvarea unor probleme considerate până acum imposibile: cancerul, schimbările climatice și chiar pacea mondială.

Anthropic și OpenAI nu sunt singurele companii care urmăresc auto-îmbunătățirea recursivă. Un val de startup-uri a fost lansat anul acesta, cu fondatori experimentați și finanțări uriașe. Ricursive Intelligence a strâns 335 de milioane de dolari, la o evaluare de 4 miliarde, în februarie. Trei luni mai târziu, Recursive Superintelligence a strâns 650 de milioane de dolari, tot la o evaluare de 4 miliarde. Iar fostul cercetător Google DeepMind, Jeff Dean, a lansat Discovery Loop luna trecută.

 „Superinteligența nu e o unealtă, e un adversar”

 „Crearea unor bucle de auto-îmbunătățire recursivă, adică un sistem AI capabil să construiască următoarea generație de sisteme AI, care poate construi un sistem și mai puternic, și tot așa, este cel mai probabil punct în care am putea pierde controlul. Este foarte greu de imaginat cum am putea opri asta înainte să fie prea târziu”, a declarat pentru TechCrunch Connor Leahy, director executiv pentru Statele Unite al organizației ControlAI.

Legislație recentă a apărut atât în Statele Unite, cât și în Marea Britanie, pentru interzicerea dezvoltării superinteligenței. Săptămâna trecută, senatorul Bernie Sanders și deputatul Greg Casar au depus proiectul de lege Ban Artificial Superintelligence Act. Marți, deputatul laburist britanic Alex Sobel a depus, în Parlament, Artificial Superintelligence Security Bill.

Leahy a oferit consultanță pentru ambele proiecte de lege. El a precizat că legislația britanică identifică auto-îmbunătățirea recursivă drept un precursor al superinteligenței, care „trebuie reglementat și prevenit”.

„Superinteligența nu este o unealtă. Nici măcar o armă nu este. Este un adversar”, a mai spus Leahy.