AI și scenariile extincției: cât de real este riscul ca inteligența artificială să distrugă omenirea?

Poveștile despre o inteligență artificială superinteligentă care scapă de sub control sunt folosite tot mai des în discuțiile despre reglementarea unei industrii evaluate la trilioane de dolari. Unii cercetători consideră că aceste scenarii pot ajuta societatea să se pregătească pentru riscuri, în timp ce alți experți avertizează că ele pot exagera pericolele și îi pot determina pe decidenți să se concentreze asupra unor amenințări ipotetice.

Cum a apărut ideea extincției provocate de AI

Una dintre întâlnirile care au contribuit la popularizarea acestor preocupări a avut loc în 2015, în Puerto Rico. La o conferință organizată de Future of Life Institute, aproximativ 80 de persoane au discutat despre posibilitatea ca inteligența artificială să evolueze până la un nivel la care oamenii să nu mai poată controla tehnologia.

Printre participanți s-au aflat Elon Musk, cofondatorii DeepMind și viitori cofondatori ai OpenAI. Filosoful Nick Bostrom a prezentat atunci scenarii în care AI ar putea ajuta omenirea să se răspândească în cosmos sau, dimpotrivă, ar putea conduce la dispariția ei.

Max Tegmark, cofondator al Future of Life Institute, a susținut ulterior că întâlnirea a contribuit la legitimarea preocupărilor privind siguranța AI și la stimularea cercetării în acest domeniu.

În ultimii ani, aceste scenarii au depășit însă mediul academic și industria tehnologică. Ele au început să influențeze dezbaterea publică și discuțiile politice despre modul în care ar trebui controlată inteligența artificială.

Cum ar arăta un scenariu de extincție

Majoritatea scenariilor pornesc de la o situație în care AI continuă să se dezvolte până când devine capabilă să depășească oamenii în aproape toate domeniile.

În unele variante, o echipă de cercetători creează intenționat sistemul. În altele, AI ajunge să se îmbunătățească singură, într-un proces accelerat pe care creatorii nu îl mai pot controla.

O inteligență artificială foarte puternică ar putea, într-un astfel de scenariu, să-și ascundă adevăratele capacități și să pătrundă în infrastructuri critice, guverne sau companii. În momentul în care ar încerca să acționeze împotriva oamenilor, controlul asupra sistemelor importante ar fi deja pierdut.

Un alt scenariu presupune că AI ar primi un obiectiv aparent banal și ar urmări realizarea lui cu orice preț, fără să țină cont de consecințele pentru oameni.

Profesorul John R. Hall de la University of California, Davis, consideră că astfel de povești se bazează și pe anxietățile deja existente în societate. „Oamenii nu sunt la conducere. Acest lucru este deja adevărat”, a spus Hall, referindu-se la faptul că oamenii simt deja că pierd controlul asupra unei părți din evoluția tehnologică.

Ce spune cercetarea despre riscul de extincție

În ciuda numărului mare de avertismente, există puține încercări de a testa concret cât de plauzibile sunt aceste scenarii.

Un astfel de demers a fost realizat de Rand, după ce, în 2023, mai mulți directori ai unor companii de AI au semnat o declarație în care prevenirea extincției provocate de inteligența artificială era comparată ca importanță cu prevenirea unui război nuclear. Raportul Rand a identificat patru condiții necesare pentru ca un asemenea scenariu să devină fezabil:

• AI să aibă acces la sisteme capabile să acționeze în lumea reală;
• să poată funcționa și supraviețui fără intervenția oamenilor;
• să poată înșela oamenii și să evite detectarea;
• să aibă sau să dezvolte un obiectiv care ar putea duce la extincția umanității.

Raportul subliniază însă că demonstrarea uneia dintre aceste capacități nu înseamnă automat că extincția este probabilă.”Nu implică faptul că o amenințare de extincție este probabilă”, avertizează Rand.

Concluzia cercetătorilor a fost că un astfel de risc nu poate fi exclus complet, dar nici nu poate fi demonstrat prin testarea unor tehnologii care încă nu există.  Michael J.D. Vermeer, autorul principal al raportului, a spus că predicțiile despre riscul de extincție provocat de AI sunt „mai bine înțelese ca profeții” decât ca prognoze cantitative.

Scenariile catastrofale pot ajuta sau pot induce în eroare?

Aici apare una dintre principalele controverse.

Daniel Kokotajlo, coautor al proiectului „AI 2027”, consideră că scenariile speculative pot fi utile pentru legislatori. Chiar dacă nu descriu exact viitorul, acestea pot ajuta la identificarea unor probleme pe care autoritățile ar putea fi nevoite să le gestioneze. El compară această abordare cu simulările militare: armatele încearcă să anticipeze modul în care s-ar putea desfășura un conflict fără să știe exact ce se va întâmpla.

Alți specialiști sunt mai sceptici.

Profesorul Subbarao Kambhampati de la Arizona State University spune că scenariile despre extincție ignoră adesea capacitatea societății de a se adapta la schimbările tehnologice. „Ele tind să subestimeze complet faptul că [AI] este un sistem socio-tehnic și, practic, se gândesc doar la partea tehnică”, a spus Kambhampati.

Cu alte cuvinte, într-un scenariu real nu ar exista doar o inteligență artificială și oamenii care încearcă să o oprească. Ar exista guverne, companii, reguli, instituții, utilizatori și alte tehnologii care ar putea modifica evoluția situației.

De ce sunt aceste scenarii tot mai populare

Max Tegmark consideră că progresele recente ale AI au făcut mai ușor de înțeles pentru public posibilitatea ca mașinile să depășească oamenii în anumite domenii. În trecut, spune el, oamenii se îndoiau în primul rând că o mașină ar putea deveni mai inteligentă decât omul și că oamenii ar putea pierde controlul asupra ei.

Progresele recente ale modelelor AI au schimbat însă această percepție.

Tegmark susține că două dintre aceste întrebări sunt acum mai ușor de acceptat, iar problema rămasă este să explici de ce și cum ar putea o astfel de inteligență să ajungă să elimine oamenii.

Experimentul „fabricii de agrafe”

Unul dintre cele mai cunoscute exemple folosite în această dezbatere îi aparține lui Nick Bostrom. El imaginează un sistem AI căruia i se cere să producă agrafe de hârtie. Dacă sistemul devine extrem de inteligent și își urmărește obiectivul fără limite, ar putea ajunge să transforme toate resursele disponibile în fabrici de agrafe.

În versiunea extremă a experimentului, oamenii ar putea deveni un obstacol pentru atingerea obiectivului și ar putea fi eliminați.

Bostrom răspunde criticilor care se întreabă de ce o inteligență superioară ar rămâne obsedată de un obiectiv atât de simplu comparând această situație cu propriile noastre motivații. „Vor să meargă în jur și să facă sex și bani. De ce sunt aceste obiective mai inteligente decât obiectivul de a primi o recompensă într-o evaluare?”, a spus Bostrom.

Experimentul nu reprezintă o predicție despre ceea ce va face efectiv inteligența artificială, ci este folosit pentru a ilustra problema obiectivelor și a controlului asupra unor sisteme extrem de capabile.

Poate teama de extincție să ducă la cooperare între SUA și China?

Tegmark consideră că discuția despre riscul existențial ar putea avea și o consecință geopolitică. El speră că preocupările legate de dezvoltarea unei AI superinteligente ar putea determina Statele Unite și China să coopereze pentru limitarea riscurilor.

Totuși, experiența ultimului deceniu îl face să fie critic față de modul în care industria a reacționat la avertismentele formulate încă din 2015, remarcă The Washington Post.

Potrivit lui Tegmark, conferința din Puerto Rico a contribuit la atragerea atenției și a finanțării către siguranța AI, însă scenariile despre extincție nu au determinat industria să încetinească. „În loc să adopte prudența, industria a mers înainte și a făcut lobby pe lângă autorități pentru a-i deschide drumul”, a spus el.

Tegmark a adăugat: „Un lucru după altul dintre cele asupra cărora avertizam în 2015 s-a întâmplat de fapt, iar ei continuă să alerge cu toată viteza înainte.”

Între avertisment și speculație

Dezbaterea despre posibilitatea ca inteligența artificială să ducă la extincția umanității rămâne, în acest moment, una în care există multe scenarii și puține certitudini.

Unii experți văd aceste povești ca pe niște exerciții utile pentru anticiparea riscurilor și pentru pregătirea legislației. Alții atrag atenția că scenariile extrem de îndepărtate pot distrage atenția de la problemele concrete pe care AI le produce deja.

Într-un punct există însă o preocupare comună: pe măsură ce sistemele AI devin mai capabile, societatea trebuie să decidă cât control dorește să păstreze asupra modului în care sunt dezvoltate și utilizate.

Întrebarea nu mai este doar dacă inteligența artificială ar putea deveni suficient de puternică pentru a schimba lumea. Ci și cum va alege societatea să gestioneze această putere.