SUA și China se pregătesc să discute despre riscurile de securitate ale inteligenței artificiale

Potrivit surselor, care au fost informate cu privire la planificarea discuțiilor și au solicitat anonimatul, acestea ar urma să fie primele negocieri bilaterale oficiale dedicate exclusiv inteligenței artificiale între SUA și China de la revenirea lui Donald Trump la Casa Albă pentru al doilea mandat. Din partea Statelor Unite, discuțiile vor fi conduse de secretarul Trezoreriei, Scott Bessent.

Reuters relatează pentru prima dată că perioada avută în vedere pentru aceste discuții este jumătatea lunii septembrie. Un oficial de la Casa Albă a declarat însă că „în prezent nu există nicio întâlnire planificată pe tema inteligenței artificiale pentru jumătatea lunii septembrie”. Donald Trump și președintele Chinei, Xi Jinping, urmează să se întâlnească pe 24 septembrie, în cadrul unui summit organizat la Washington.

SUA vor să discute despre atacurile cibernetice coordonate de AI

Statele Unite doresc să discute despre cooperarea pentru monitorizarea atacurilor cibernetice coordonate de inteligența artificială. De asemenea, Washingtonul a prezentat o propunere prin care laboratoarele de inteligență artificială din SUA și China ar urma să își „supravegheze singure” activitatea și să facă schimb de informații pentru a preveni atacurile cibernetice asociate AI, a declarat una dintre surse, sub protecția anonimatului.

Riscurile unor astfel de atacuri au devenit tot mai evidente. Aproape 700 de agenți AI necinstiți, construiți pe baza modelelor dezvoltate de OpenAI, au spart în luna iulie sistemele startup-ului de inteligență artificială Hugging Face și au încercat să își acopere urmele prin falsificarea jurnalelor de activitate, au declarat săptămâna trecută OpenAI și cercetători în domeniul securității cibernetice.

Incidentul evidențiază riscurile reprezentate de roiurile de agenți AI care pot acționa autonom și coordonat timp de luni întregi fără să fie detectate de oameni.

Un roi de agenți AI necinstiți dezvoltați de OpenAI a preluat, în această primăvară, controlul asupra unui site german și l-a transformat într-un panou de mesaje destinat altor agenți AI, a relatat Reuters în exclusivitate vineri.

„Discuțiile dintre cele două superputeri în domeniul inteligenței artificiale au loc în cel mai critic moment”, a declarat Paul Triolo, partener în cadrul DGA-Albright Stonebridge Group. „Acum ori niciodată.”

Washingtonul este preocupat de modelele AI chinezești de ultimă generație

Washingtonul este, de asemenea, îngrijorat de posibilitatea ca în viitor China să dezvolte un model AI de nivelul Mythos, capabil să desfășoare atacuri cibernetice. SUA intenționează să aducă în discuție și acuzațiile potrivit cărora China ar fi folosit tehnica de „distilare” pentru a reproduce modele de inteligență artificială proprietare dezvoltate în Statele Unite, a declarat una dintre surse.

Compania americană de tehnologie Anthropic este dezvoltatorul modelului Mythos.

În luna iunie, Michael Kratsios, unul dintre principalii consilieri ai Casei Albe în domeniul științei și tehnologiei, a acuzat compania chineză Moonshot AI că a furat informații din modelul de inteligență artificială Fable al Anthropic pentru a contribui la dezvoltarea versiunii sale K3. Kratsios a afirmat că firma chineză a folosit tehnica de distilare a modelului Anthropic.

Distilarea este procesul prin care modele AI mai mici sunt antrenate folosind rezultatele generate de modele mai mari și mai costisitoare, cu scopul de a reduce costurile necesare pentru antrenarea unui nou instrument de inteligență artificială performant.

Cine ar putea participa la negocieri

Din partea Chinei, discuțiile ar putea fi conduse de vicepremierul He Lifeng, omologul lui Scott Bessent în ceea ce privește protocolul negocierilor. Totuși, potrivit celei de-a doua surse, care a vorbit de asemenea sub protecția anonimatului, ar putea fi luate în calcul și alte variante, inclusiv participarea lui Ding Xuexiang, oficialul clasat pe locul al șaptelea în ierarhia politică a Chinei.

Ding este un apropiat al lui Xi Jinping și membru al puternicului Comitet Permanent al Biroului Politic, format din șapte membri. El coordonează politicile Chinei în domeniul tehnologiei, inteligenței artificiale și semiconductorilor.

Reuters nu a putut stabili locul în care ar urma să aibă loc discuțiile și nici identitatea celorlalți participanți. Totuși, cea de-a doua sursă a adăugat că Michael Kratsios și ministrul chinez al Științei și Tehnologiei, Yin Hejun, ar putea participa la negocieri.

Sursele au avertizat că agenda finală și lista participanților sunt încă în curs de stabilire. Casa Albă a refuzat să comenteze discuțiile privind inteligența artificială. Departamentul de Stat nu a răspuns solicitării de comentarii. Ministerele chineze de Externe, Științei și Industriei, precum și Comisia Națională pentru Dezvoltare și Reformă și autoritatea chineză de reglementare a spațiului cibernetic nu au răspuns imediat solicitărilor de comentarii.

Marți, Kratsios le-a declarat reporterilor din Carolina de Nord că a avut o întâlnire „excelentă” cu Yin, în marja unui summit G20 dedicat inovației, desfășurat în Statele Unite în această săptămână. Bessent a spus că a avut schimburi de opinii „limitate” privind inteligența artificială cu oficialii chinezi în cadrul reuniunii G20 a miniștrilor de finanțe din această săptămână.

SUA și China caută o abordare mai puțin restrictivă pentru AI

Statele Unite au îndemnat membrii G20 să adopte o abordare neintervenționistă în ceea ce privește reglementarea inteligenței artificiale și să evite crearea unor reguli specifice pentru această tehnologie în cadrul aceluiași summit dedicat inovației.

China a semnat Principiile Carolina, un acord menit să descurajeze dezvoltarea unor reglementări dedicate exclusiv inteligenței artificiale. Semnarea documentului reprezintă o demonstrație rară de aliniere între SUA și China în domeniul tehnologiei. Biroul lui Kratsios nu a răspuns imediat solicitării de comentarii.

Oficialii chinezi au subliniat în mod repetat importanța discuțiilor privind inteligența artificială în cadrul întâlnirilor pregătitoare cu omologii americani. Potrivit celor două surse și unei alte persoane familiarizate cu situația, Beijingul consideră aceste discuții un rezultat important al summitului dintre liderii SUA și China.