„Roboții ucigași” și riscul AI: de ce protecția fizică ar putea fi mai realistă decât un tratat global

În ultimele săptămâni, dezbaterea privind siguranța inteligenței artificiale a devenit tot mai intensă. Au apărut cazuri în care agenți AI au ieșit din mediile lor de testare. În același timp, cercetători din industrie avertizează asupra riscurilor asociate sistemelor tot mai performante. Un cercetător Anthropic și-a anunțat recent demisia. El a acuzat marile laboratoare AI că se angajează într-o cursă periculoasă spre superinteligență și că „se joacă cu viețile noastre”.

Evan Hubinger, responsabil pentru cercetarea de aliniere AI la Anthropic, a exprimat la rândul său îngrijorări serioase. El a estimat că probabilitatea unei extincții umane provocate de AI depășește 10% în următorul deceniu. Hubinger a mai spus că nici colegii săi nu știu cu certitudine cum ar putea fi redus acest risc.

Șefii marilor companii AI sunt și ei îngrijorați

Dario Amodei, CEO-ul Anthropic, a publicat ulterior un eseu intitulat „We Must Pace the Frontier”. El a promis că Anthropic va permite unor experți externi în siguranță să monitorizeze activitatea companiei. Aceștia ar urma să primească un nivel de acces comparabil cu cel al angajaților. Amodei a propus și o colaborare între marile companii AI din țările democratice. Cu sprijinul guvernelor, acestea ar putea stabili când dezvoltarea AI trebuie încetinită pentru respectarea standardelor de siguranță.

CEO-ul Anthropic a cerut și un efort internațional pentru controlarea ritmului dezvoltării inteligenței artificiale. Totuși, el a recunoscut că un asemenea acord ar fi dificil de realizat. Sam Altman, CEO-ul OpenAI, a reacționat aproape imediat cu un angajament asemănător privind monitorizarea externă. Elon Musk, care controlează și xAI, a susținut mesajul lui Amodei.

Autoarea analizei din The Washington Post observă că liderii celor mai importante companii AI par preocupați de propriile tehnologii. Cel puțin, există temeri că roiurile de agenți AI ar putea deveni capabile să preia controlul asupra unor părți importante ale internetului. Amodei a descris inclusiv scenariul unei rețele persistente de boți care ar putea produce pagube economice uriașe. Dar scenariile mai grave merg mult mai departe. Printre ele se numără lansarea unor arme nucleare, crearea unor arme biologice letale sau folosirea dronelor robotizate pentru uciderea oamenilor.

De ce nu oprim pur și simplu dezvoltarea AI?

La prima vedere, soluția pare simplă. Dacă omenirea nu este sigură că poate controla inteligența artificială, atunci ar putea opri dezvoltarea ei. O tehnologie care nu este construită nu poate provoca dispariția omenirii. Problema este însă cooperarea internațională. Statele lumii au dificultăți majore în a ajunge la acorduri asupra unor probleme strategice mult mai simple. Țara care dezvoltă o inteligență artificială foarte performantă, fără să provoace o catastrofă, poate obține avantaje economice și strategice enorme. Tocmai aceste beneficii fac foarte dificilă oprirea cursei.

Controlul armelor nucleare pare aproape simplu prin comparație. Materialele fisionabile sunt mult mai greu de obținut decât cipurile necesare dezvoltării AI. În plus, armele nucleare nu pot accelera economia unei țări așa cum ar putea face inteligența artificială. Există și o limită practică în cazul arsenalelor nucleare. După acumularea unui număr suficient de focoase pentru distrugeri catastrofale, utilitatea construirii altora începe să scadă. Chiar și în aceste condiții, controlul armelor nucleare a necesitat decenii. Un acord rapid între Statele Unite și China pentru suspendarea dezvoltării AI este, prin urmare, greu de imaginat. Autoarea folosește aici o comparație ironică. Ea spune că își poate imagina un asemenea acord la fel cum își poate imagina că primește o bursă MacArthur, cunoscută informal drept „genius grant”. Ambele i se par aproximativ la fel de probabile.

Dacă nu putem opri AI, putem opri „roboții ucigași”?

De aici apare o întrebare mai restrânsă. Dacă dezvoltarea inteligenței artificiale nu poate fi oprită, ar putea fi limitată cel puțin construirea unor sisteme fizice autonome capabile să ucidă?

Un exemplu îl reprezintă dronele complet autonome. Acestea ar putea identifica și ataca ținte fără ca un om să mai participe la decizia finală. Controlarea dezvoltării unor asemenea arme ar fi foarte dificilă. Toate acordurile privind controlul armamentului sunt complicate. Totuși, problema pare mai ușor de gestionat decât oprirea completă a progresului AI. Iar dacă statele nu pot rezolva nici această problemă mai restrânsă, șansele unui acord global privind dezvoltarea inteligenței artificiale devin și mai mici.

„Principiul roboților ucigași”

Analiza propune extinderea ideii dincolo de dronele autonome. AI ar trebui să aibă acces limitat la orice sistem care poate provoca moarte în masă. Acest concept este numit „murderbot principle” – „principiul roboților ucigași”. Inteligența artificială ar trebui ținută departe de sistemele de comandă și control ale armelor nucleare. Aceeași regulă ar trebui aplicată materialelor și echipamentelor folosite pentru producerea armelor biologice sau chimice.

Infrastructura critică reprezintă o altă zonă sensibilă. Sistemele de alimentare cu apă și energie ar trebui protejate împotriva accesului necontrolat al AI. Ideea este ca sistemele cu potențial letal să fie separate, pe cât posibil, de inteligența artificială și de internet. Lanțurile de aprovizionare ar trebui, la rândul lor, securizate.

Fabricile complet autonome ar putea deveni o problemă

Autoarea argumentează că societatea ar trebui să renunțe la ideea fabricilor robotizate complet autonome. De asemenea, trebuie analizate cu atenție riscurile înainte de construirea unor roboți care pot fi transformați în arme. Pericolul nu vine doar din partea unei inteligențe artificiale ostile. Un actor uman ar putea folosi AI pentru a transforma sisteme civile în instrumente letale. Programele AI ostile vor reprezenta probabil o problemă indiferent de măsurile adoptate. Același lucru este valabil pentru oamenii care își sporesc capacitățile cu ajutorul inteligenței artificiale.

Totuși, există o diferență importantă între lumea digitală și cea fizică. Atât timp cât oamenii păstrează controlul asupra infrastructurii fizice, susține analiza, AI nu poate transforma cu ușurință capacitățile sale digitale într-un atac capabil să elimine omenirea.

Protecția fizică nu necesită neapărat un acord cu China

Un avantaj important al acestei abordări este că multe măsuri pot fi luate unilateral. China nu are nevoie de acordul Statelor Unite pentru a-și securiza infrastructura. Nici Washingtonul nu are nevoie de permisiunea Beijingului pentru a face același lucru.

Statele au deja motive puternice să împiedice accesul persoanelor neautorizate la arme biologice sau chimice. Acest interes rămâne valabil indiferent dacă amenințarea vine de la oameni sau de la sisteme AI. Prin urmare, securizarea lanțurilor de aprovizionare nu presupune neapărat renunțarea la un avantaj strategic în fața unui rival. Situația este mai complicată în cazul armelor autonome. Limitarea folosirii lor ar necesita probabil un grad mai mare de cooperare. Totuși, problema rămâne mai restrânsă decât controlarea întregii dezvoltări AI.

Siguranța ar avea un preț ridicat

Nici această strategie nu ar fi simplă sau ieftină. Protejarea infrastructurii și securizarea lanțurilor de aprovizionare ar necesita investiții foarte mari. Măsurile ar putea complica și activitatea oamenilor din industriile vizate. În plus, limitarea accesului AI la lumea fizică ar reduce inevitabil și unele dintre beneficiile tehnologiei.

Există un compromis clar. Cu cât inteligența artificială primește mai mult control asupra sistemelor fizice, cu atât poate deveni mai utilă. În același timp, cresc și consecințele unui eventual comportament periculos. Autoarea consideră însă că aceste costuri sunt preferabile unei strategii bazate doar pe speranța unui acord internațional.

Problema AI începe, de fapt, cu oamenii

Analiza nu respinge ideea unui tratat internațional pentru limitarea dezvoltării inteligenței artificiale. Dimpotrivă, autoarea speră că specialiștii din tehnologie care avertizează asupra unei catastrofe se vor implica în elaborarea unor asemenea politici la Washington. Dar ea nu consideră realist ca siguranța omenirii să depindă exclusiv de succesul unui asemenea acord.

O strategie mai practică ar începe cu lucrurile asupra cărora statele au deja control. Armele nucleare, laboratoarele biologice, infrastructura energetică și sistemele autonome letale pot beneficia de bariere fizice și digitale mai puternice. Dacă omenirea nu poate garanta că inteligența artificială va rămâne întotdeauna sub control, atunci ar trebui să limiteze lucrurile pe care aceasta le poate controla. Concluzia analizei este și mai largă. Problema alinierii inteligenței artificiale la interesele umane este atât de dificilă deoarece oamenii nu au reușit încă să rezolve complet propria problemă de aliniere și cooperare.