Trump și Xi, față în față: poate rivalitatea SUA-China să lase loc unor reguli pentru inteligența artificială?

În acest context, viitoarea întâlnire de la Washington dintre președintele american Donald Trump și liderul chinez Xi Jinping ar putea avea o importanță aparte.

Potrivit unei analize publicate de The Christian Science Monitor, inteligența artificială se află pe agenda discuțiilor dintre cei doi lideri, însă rămâne întrebarea dacă summitul va pune accentul pe siguranța IA sau, dimpotrivă, pe competiția dintre cele două țări.

Cât de departe poate ajunge inteligența artificială?

Una dintre cele mai alarmante afirmații recente a venit din partea lui Jacob Coxon, cercetător care a lucrat pentru două dintre cele mai importante companii americane de inteligență artificială. El a avertizat că inteligența artificială „ne-ar putea ucide pe toți până la sfârșitul deceniului”.

Afirmația a generat dezbateri intense. Pentru unii, astfel de avertismente sunt exagerate și pot alimenta inutil teama față de o tehnologie aflată încă în dezvoltare. Pentru alții, ele reprezintă un semnal de alarmă care nu poate fi ignorat. Dincolo de formularea dramatică, problema ridicată este una concretă. Cum poate fi păstrat controlul uman asupra unor sisteme care devin din ce în ce mai autonome și mai capabile?

Aceasta este, de fapt, una dintre marile întrebări ale momentului. Nu este vorba doar despre beneficiile inteligenței artificiale, ci și despre construirea unor mecanisme care să limiteze consecințele nedorite ale acesteia.

SUA și China: cooperare sau cursă pentru supremația în IA?

A doua problemă este și mai complicată. Statele Unite și China nu dezvoltă inteligența artificială într-un vid. Ambele încearcă să obțină avantaje economice, tehnologice și strategice. În aceste condiții, cooperarea pentru siguranța IA poate intra în conflict cu dorința fiecărei țări de a avansa mai repede decât cealaltă.

Această tensiune ar putea deveni vizibilă la întâlnirea dintre Donald Trump și Xi Jinping.Până la apariția ultimelor avertismente și a reacțiilor politice din Statele Unite, existau speculații că întâlnirea ar putea produce cel puțin un angajament comun de principiu privind siguranța inteligenței artificiale. Între timp, însă, mesajele transmise de Washington și Beijing indică o situație mai complicată.

China cere un control mai strict asupra inteligenței artificiale

China are deja un sistem de control strict asupra companiilor sale de tehnologie și a introdus o serie de măsuri privind inteligența artificială. Chen Yixin, unul dintre principalii oficiali chinezi responsabili de securitate, a susținut recent necesitatea unor mecanisme de protecție și mai stricte.

Argumentele Beijingului nu se limitează însă la siguranța utilizatorilor. Potrivit analizei publicate de The Christian Science Monitor, autoritățile chineze sunt preocupate și de posibilitatea ca inteligența artificială să slăbească controlul Partidului Comunist Chinez.

Chen Yixin a indicat, de asemenea, modelele de inteligență artificială dezvoltate în Statele Unite drept potențiale amenințări și a avertizat asupra posibilității ca servicii de informații străine să utilizeze această tehnologie pentru „sabotaj”.

Așadar, atunci când Beijingul vorbește despre siguranța IA, problema este legată atât de riscurile tehnologice, cât și de securitatea națională și controlul politic.

Donald Trump pune accentul pe competiția cu Beijingul

Poziția administrației Trump este diferită. Președintele american a respins avertismentul lui Jacob Coxon. A criticat compania Anthropic pentru susținerea unor măsuri de încetinire a dezvoltării următoarei generații de sisteme IA și pentru solicitarea unor reglementări guvernamentale menite să crească nivelul de siguranță. Trump a descris aceste demersuri drept o „farsă” și parte a unei „conspirații” care ar avea ca scop încetinirea dezvoltării americane a inteligenței artificiale.

Mai mult, într-o schimbare față de declarațiile sale anterior favorabile lui Xi Jinping, Trump a sugerat că Beijingul s-ar afla în spatele presiunilor pentru introducerea unor restricții asupra companiilor americane de IA. Mesajul transmis de președintele american pare astfel să pună accentul pe menținerea avantajului Statelor Unite în competiția tehnologică cu China.

Anthropic și OpenAI avertizează asupra riscurilor

Dezbaterea nu se poartă însă doar între Washington și Beijing.Există și o competiție intensă între marile companii americane de inteligență artificială. Anthropic, compania care dezvoltă Claude, și OpenAI, compania din spatele ChatGPT, încearcă ambele să se afle în prima linie a dezvoltării tehnologiilor de ultimă generație.

În același timp, cele două companii au documentat situații în care modelele lor de IA au reușit să iasă din mediile controlate în care erau testate și au acționat într-un mod care depășea ceea ce fuseseră proiectate să facă.

Aceste cazuri alimentează una dintre cele mai importante teme ale dezbaterii actuale: ce se întâmplă atunci când un sistem de inteligență artificială începe să acționeze într-un mod pe care dezvoltatorii săi nu îl mai pot anticipa complet?

Claude, dezinformarea și proiectarea armelor

Anthropic a raportat recent și o serie de tentative în care utilizatori din afara Statelor Unite au folosit Claude pentru activități problematice. Potrivit companiei, au existat încercări de utilizare a sistemului pentru răspândirea dezinformării, activități de supraveghere, proiectarea unor rachete și drone și cercetări care ar putea contribui la dezvoltarea unor arme biologice. Anthropic a precizat că trei dintre incidentele referitoare la arme convenționale au avut legătură cu China.

Aceste informații schimbă într-o anumită măsură natura discuției.Riscurile inteligenței artificiale nu mai sunt doar ipotetice. Există deja situații documentate în care instrumentele disponibile public sunt utilizate pentru activități care pot avea implicații serioase asupra securității.

Există însă și o problemă: cine plătește pentru reguli?

Apelurile pentru o reglementare mai strictă nu sunt privite cu încredere de toată lumea. Companiile mai mici din industria IA consideră că anumite reguli ar putea favoriza marile companii, care dispun de resurse financiare suficiente pentru a suporta costurile suplimentare. În această perspectivă, cerințele de securitate și conformitate care sunt accesibile pentru companii precum Anthropic sau OpenAI ar putea deveni mult mai greu de respectat pentru firmele mai mici.

Există, așadar, o întrebare legitimă: cum poate fi reglementată inteligența artificială fără ca regulile să devină o barieră care elimină competiția? În același timp, criticile privind posibilele efecte economice ale reglementării nu înseamnă automat că preocupările legate de siguranță sunt nejustificate.

Dario Amodei, CEO-ul Anthropic, susține că aceste preocupări sunt reale.

Europa încearcă deja să stabilească limite

Statele Unite și China nu sunt singurele care încearcă să găsească un echilibru între dezvoltarea IA și controlul riscurilor. Uniunea Europeană a adoptat propriul cadru legislativ pentru inteligența artificială.

Regulile europene vizează inclusiv utilizări considerate problematice, precum anumite forme de supraveghere ilegală și utilizarea inteligenței artificiale pentru răspândirea de informații false. În anumite situații, marile companii pot ajunge să fie ținute responsabile financiar pentru incidente produse pe teritoriul Uniunii Europene.

Modelul european pornește astfel de la ideea că dezvoltarea inteligenței artificiale trebuie însoțită de reguli privind modul în care tehnologia poate fi utilizată.

Marea Britanie testează generațiile următoare de IA

Și Marea Britanie a creat un mecanism dedicat evaluării riscurilor. AI Security Institute, înființat în perioada în care Rishi Sunak era prim-ministru, testează capacitățile și riscurile noilor generații de sisteme de inteligență artificială.

Instituția colaborează cu companiile din domeniu, însă nu are un rol direct de aplicare a legii. Aici apare una dintre limitele actuale ale sistemului.

Testarea și identificarea riscurilor reprezintă un lucru. Intervenția efectivă pentru a împiedica un sistem IA să depășească limitele stabilite reprezintă un altul.

Summitul Trump-Xi ar putea deveni un moment important

În acest context, întâlnirea dintre Donald Trump și Xi Jinping capătă o dimensiune suplimentară. Un acord general privind siguranța inteligenței artificiale între Statele Unite și China nu ar rezolva toate problemele. Ar putea însă reprezenta un punct de plecare pentru o cooperare internațională mai largă.

Problema este că cele două țări sunt, în același timp, parteneri potențiali în ceea ce privește siguranța IA și competitori direcți în cursa pentru supremația tehnologică. Iar această contradicție este probabil una dintre cele mai dificile probleme de rezolvat.

Cine controlează inteligența artificială?

Jacob Coxon avertizează asupra posibilității ca IA să depășească mecanismele de control existente. Companiile precum Anthropic și OpenAI documentează deja comportamente și utilizări care ridică probleme serioase. Europa încearcă să construiască un cadru legislativ, Marea Britanie testează noile generații de sisteme, iar China își consolidează propriile mecanisme de control.

În Statele Unite, însă, Donald Trump pare să pună accentul în primul rând pe competiția tehnologică cu Beijingul.

Poziția sa a fost exprimată într-o formulare devenită deja emblematică: „Singurul control sau „limite de siguranță” de care are nevoie IA este un PREȘEDINTE PUTERNIC ȘI INTELIGENT (cu IQ RIDICAT!).”