Ei l-au făcut, ei l-au scăpat de sub control! Părinții fondatori ai AI avertizează asupra unei „explozii a inteligenței” care nu poate fi ținută în frâu

Totul a apărut într-un raport redactat în colaborare de laureatul Premiului Nobel Geoffrey Hinton și de informaticianul canadian Yoshua Bengio. Ei sunt considerați „părinții fondatori” ai AI datorită contribuțiilor lor în acest domeniu. Ei îi îndeamnă pe politicieni să acționeze acum, înainte ca progresul tehnologic să devină incontrolabil.

Explozia AI, mai multe griji decât beneficii

Autorii își exprimă îngrijorarea cu privire la o „explozie a inteligenței”. O descriu ca fiind o „accelerare dramatică a progresului AI, determinată de AI însăși. Aceasta comprimă avansurile care altfel ar dura ani întregi în luni sau chiar mai puțin”.

Lucrarea se numește „Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării în domeniul IA ar declanșa o explozie a inteligenței?”. Ea este semnată de peste 20 de persoane, printre care Hinton și Bengio. Printre ceilalți autori ai lucrării se numără Jack Clark, cofondator al Anthropic, și Jakub Pachocki, cercetător șef la OpenAI.

Preocupările lor se concentrează asupra posibilității ca AI-urile să fie capabile să se perfecționeze singure, fără intervenție umană. Este un proces cunoscut sub numele de „auto-perfecționare recursivă”. În articol, acesta este denumit în general „cercetare și dezvoltare automatizată în domeniul AI”. Odată ce sistemele de AI ating capacități de nivel expert în cercetarea și dezvoltarea AI, un singur dezvoltator ar putea coordona o forță de muncă echivalentă cu „milioane” de cercetători umani de top.

AI-ul ar putea să nu mai poată fi controlat de om

Autorii susțin că automatizarea cercetării și dezvoltării în domeniul AI reprezintă cea mai probabilă sursă a unei explozii a inteligenței. AI contribuie deja la îmbunătățirea propriei tehnologii, iar sistemele îmbunătățite rezultate pot fi implementate rapid odată ce sunt construite.

„O explozie a inteligenței ar putea fi cea mai importantă evoluție tehnologică din istoria umanității. Comprimă ani de progres în luni sau chiar mai puțin, amenințând controlul uman asupra sistemelor de AI. Asta erodează grav mecanismele de control al puterii în cadrul și între state, companii și ramuri ale guvernului”, se menționează în document.

Soluții care ar putea atenua pericolul

Îndemnând guvernele să ia măsuri rapid, autorii afirmă: „Odată ce începe o explozie a inteligenței, fereastra de oportunitate pentru a acționa s-ar putea închide.” Aceștia au recomandat trei priorități de politică. Solicitarea unor rapoarte transparente privind progresul în cercetarea și dezvoltarea legată de AI, inclusiv integrarea unor auditori independenți în companii. Găsirea unor modalități de a limita dezvoltarea vertiginoasă a AI și pregătirea pentru adaptarea la o explozie a inteligenței.

Atât Anthropic, cât și OpenAI au convenit ca modelele lor să fie evaluate de evaluatori independenți. Asta după ce au avertizat că dezvoltarea AI atinge un punct critic din punct de vedere al siguranței. Anthropic afirmă că AI produce acum 80% din propriul cod, în timp ce OpenAI utilizează agenți AI autonomi în domenii precum antrenarea de noi modele.

„Dovezile preliminare sugerează că este posibilă o explozie a inteligenței generată de software”, se arată în document. Acest lucru ar duce la „dezvoltarea extrem de rapidă a unor sisteme de AI extrem de capabile sau cu capacități supraomenești”.

AI-ul lasă omul în urmă în mai multe domenii

Deși acest lucru ar putea genera progrese medicale și salturi tehnologice, ar aduce cu sine trei riscuri. Sistemele puternice ar putea permite apariția unor amenințări biologice și cibernetice care se dezvoltă mai repede decât măsurile necesare pentru a le contracara.

Pe măsură ce oamenii devin din ce în ce mai puțin implicați în cercetarea și dezvoltarea AI, aceștia ar putea pierde posibilitatea de a controla sistemele. Statele ar putea folosi o explozie a inteligenței pentru a transforma un avantaj modest în domenii precum spațiul cibernetic într-unul decisiv.

Pericolul există, dar nu este chiar iminent

Raportul recunoaște că aceste impacturi sunt „incerte”. De exemplu, implementarea unei descoperiri tehnologice ar putea dura. E nevoie de a crea lanțuri de aprovizionare pentru eventualele materiale speciale implicate sau de a respecta reglementările. Sistemele de AI ar putea, de asemenea, să accelereze ritmul de atenuare a riscurilor, afirmă autorii.

Dacă s-ar produce o astfel de descoperire revoluționară, afirmă autorii, sistemele de AI ar putea să îi depășească rapid pe experții umani. Inclusiv în majoritatea domeniilor și să „accelereze radical” progresul tehnologic. Pregătirea pentru acest scenariu „ar trebui să constituie o prioritate urgentă, inclusiv la cele mai înalte niveluri ale conducerii guvernamentale”.