Giganții AI cer încetinirea dezvoltării tehnologiei. Planul în trei etape propus de Dario Amodei

Dario Amodei propune o abordare mai prudentă în cursa pentru dezvoltarea inteligenței artificiale. CEO-ul Anthropic consideră că firmele din domeniu ar trebui să câștige timp pentru a testa și securiza cele mai performante modele AI. El a prezentat un plan în trei etape pentru reducerea controlată a ritmului de dezvoltare. Ideea nu presupune oprirea progresului sau a antrenării modelelor. Obiectivul este ca măsurile de siguranță să poată ține pasul cu noile capacități ale sistemelor.

Dario Amodei propune un plan în trei etape

Prima etapă vizează evaluarea independentă a modelelor de inteligență artificială. Anthropic s-a angajat deja să ofere unor experți externi un nivel extins de acces la sistemele sale. Aceștia ar urma să analizeze măsurile de protecție și să identifice eventualele vulnerabilități. De asemenea, evaluatorii ar putea raporta incidentele descoperite în timpul verificărilor.

A doua etapă presupune o colaborare mai strânsă între marile companii AI din statele democratice. Scopul ar fi stabilirea unor standarde comune de siguranță. Ultima etapă este și cea mai dificilă. Amodei consideră că ar fi necesare acorduri între guvernele democratice și statele autoritare. Astfel, cursa globală pentru inteligența artificială ar putea fi gestionată prin reguli acceptate la nivel internațional.

Avertismente privind riscurile inteligenței artificiale

Apelul vine într-o perioadă în care dezbaterea despre siguranța AI devine tot mai intensă. Jacob Coxon, cercetător care a demisionat de la Anthropic, a criticat modul în care industria dezvoltă sistemele avansate. El a susținut că riscurile asociate inteligenței artificiale sunt tratate insuficient de serios.

Amodei consideră, la rândul său, că situația este diferită față de cea din urmă cu doar câțiva ani. Modelele actuale au capacități mult mai avansate și pot îndeplini sarcini complexe cu un grad tot mai ridicat de autonomie. Din acest motiv, directorul Anthropic susține că industria trebuie să acorde mai mult timp testării și alinierii sistemelor înainte ca acestea să ajungă la niveluri de performanță dificil de controlat.

Sam Altman susține evaluările independente

Propunerea a primit sprijin și din partea lui Sam Altman. CEO-ul OpenAI a arătat că problema încetinirii dezvoltării celor mai avansate capacități AI ocupă un loc important în discuțiile din industrie.

Altman susține și implicarea evaluatorilor independenți în verificarea sistemelor. OpenAI intenționează să adopte o abordare similară pentru evaluarea siguranței modelelor sale. Sprijinul este important în contextul competiției dintre marile companii din domeniu. O încetinire unilaterală ar putea dezavantaja o companie în raport cu rivalii săi. Tocmai de aceea, Amodei insistă asupra coordonării între principalii dezvoltatori.

Elon Musk: „Dario are dreptate”

Elon Musk s-a alăturat și el discuției și și-a exprimat public sprijinul pentru poziția lui Amodei. Musk a avertizat în repetate rânduri asupra riscurilor pe care sistemele foarte avansate le-ar putea genera în lipsa unor mecanisme eficiente de control. Susținerea venită din partea unor lideri aflați în competiție arată că siguranța inteligenței artificiale devine o preocupare comună pentru o parte importantă a industriei.

Un an sau doi ar putea conta decisiv

Dario Amodei consideră că nu este nevoie neapărat de o oprire îndelungată a progresului. Chiar și o perioadă suplimentară de unul sau doi ani ar putea avea o importanță majoră.

În acest interval, cercetătorii ar putea dezvolta metode mai bune pentru controlul și alinierea sistemelor AI. Totodată, autoritățile și companiile ar avea mai mult timp pentru stabilirea unor reguli de siguranță. Miza este găsirea unui echilibru între progresul tehnologic și controlul riscurilor. În același timp, companiile americane încearcă să își păstreze competitivitatea într-o cursă AI care a devenit globală, scrie News.ro.