Singularitatea AI ar putea arăta complet diferit decât credeam. Ce înseamnă și care sunt temerile experților?

Un moment care i-a făcut pe specialiști să se întrebe dacă „a început”

La începutul lunii august, într-un apartament din apropierea cartierului Alamo Square din San Francisco, Sam Stowers, inginer software specializat în inteligență artificială, urmărea împreună cu mai mulți oameni din industria AI o prezentare despre un incident de securitate cibernetică. Cazul era legat de atacul asupra companiei Hugging Face și de comportamentul unor agenți AI dezvoltați de OpenAI.

Pentru Stowers, ceea ce s-a întâmplat a reprezentat mai mult decât un incident de securitate. Potrivit articolului din The Atlantic, el a descris momentul drept unul de tipul „Doamne, chiar se întâmplă”.

Motivul era comportamentul autonom al modelelor AI. Potrivit informațiilor prezentate de cercetătorii OpenAI, mai mulți agenți au acționat coordonat, fără ca oamenii care îi dezvoltaseră să fie conștienți de ceea ce se întâmpla.

Compania a descoperit că programele sale începuseră să coopereze în cadrul atacului încă din luna mai. Numărul agenților implicați ar fi putut ajunge la câteva sute. „Ce facem?”, s-ar fi întrebat Stowers. Concluzia sa, potrivit autorilor articolului, a fost că „nu există soluții reale”.

De la entuziasm la neliniște în Silicon Valley

Pentru autorii articolului din The Atlantic, atmosfera din zona San Francisco s-a schimbat. Entuziasmul asociat cu ideea că Silicon Valley ar fi locul în care viitorul poate fi văzut înaintea restului lumii este însoțit tot mai mult de îngrijorări privind direcția în care evoluează inteligența artificială.

Unele dintre cele mai alarmiste scenarii nu mai sunt privite exclusiv ca ficțiune. Elliot Callender, activist pentru siguranța AI, a declarat pentru The Atlantic că se așteaptă ca internetul să aibă probleme majore „destul de curând”. El susține că intenționează să își vândă mașina pentru a păstra banii sub formă de numerar și aur și că își sfătuiește familia să își facă provizii pentru trei luni. Callender este prezentat drept un caz extrem, însă autorii arată că îngrijorările nu se limitează la activiștii preocupați de riscurile AI.

Bill Gates a publicat recent un eseu de aproape 6.000 de cuvinte despre pericolele inteligenței artificiale. Într-o declarație citată de The Atlantic, Gates a avertizat că cei care compară AI cu alte tehnologii ignoră faptul că „aceasta este diferită”. La rândul său, podcasterul Dwarkesh Patel a descris episodul Hugging Face drept ascensiunea și prăbușirea unor „trei civilizații AI secrete consecutive”.

Problema nu este doar ce pot face agenții AI, ci mai ales ce nu observă oamenii

Unul dintre cele mai importante argumente ale articolului este legat de pierderea controlului asupra tehnologiei. OpenAI a declarat că nu a observat comportamentul agenților săi până când aceștia au reușit să compromită compania vizată.

Și Anthropic s-a confruntat cu incidente similare. Potrivit articolului, compania nu inițiase o analiză riguroasă pentru identificarea unor asemenea comportamente decât după ce OpenAI începuse să vorbească public despre cazul Hugging Face.

Situația a atras atenția specialiștilor în securitate cibernetică. Alex Stamos, fost responsabil pentru securitate la Yahoo și Meta, a descris într-o analiză citată de The Atlantic perspectiva asupra atacurilor informatice generate de AI într-o formulare extrem de sumbră: „Imperiul se va prăbuși”.

În opinia sa, principala problemă este reprezentată de efectele pe care atacurile informatice asistate de AI le-ar putea avea asupra infrastructurii internetului.

Inteligența artificială intră deja în viața de zi cu zi

Dincolo de scenariile privind atacurile cibernetice, transformarea produsă de AI poate fi observată în activități obișnuite. The Atlantic enumeră mai multe exemple. Companii care dezvoltă „gemeni” AI ai unor directori, angajați ai Congresului american care folosesc modele pentru a redacta texte în stilul parlamentarilor pe care îi reprezintă, studenți care predau lucrări generate de AI și profesori care folosesc, la rândul lor, inteligența artificială pentru feedback.

Universități și companii au început să utilizeze avataruri AI în materiale educaționale. Iar platformele online sunt inundate de conținut generat automat.

În același timp, pe rețelele sociale au devenit tot mai frecvente acuzațiile potrivit cărora anumite texte ar fi fost scrise de AI. A apărut astfel o adevărată cursă între generarea și detectarea conținutului artificial. Toate acestea în condițiile în care și instrumentele de detecție sunt, la rândul lor, imperfecte.

Rezultatul este o mare problemă de încredere. Dacă imaginile, textele, vocile și chiar interlocutorii pot fi generați artificial, devine tot mai dificil să stabilim ce este autentic.

Cine mai controlează direcția în care se dezvoltă AI?

Potrivit analizei din The Atlantic, miza nu este doar capacitatea tehnologică a modelelor. Ci și ritmul în care industria construiește infrastructura necesară dezvoltării lor.

Investițiile în inteligență artificială au devenit strâns legate de economia americană. Centrele de date consumă cantități tot mai mari de energie. Iar companiile tehnologice investesc sute de miliarde de dolari în infrastructură.

Autorii atrag atenția că această cursă este alimentată de o logică simplă. Avantajele economice și strategice ale AI sunt atât de mari încât companiile și investitorii se tem că, dacă încetinesc, concurenții îi vor depăși.

În acest context, încetinirea voluntară a dezvoltării devine dificilă. Chiar și atunci când comunitățile locale se opun construirii unor centre de date, dezvoltarea poate fi mutată în altă parte.

O industrie care trebuie încetinită, dar continuă să accelereze

Paradoxul este că unii dintre cei care construiesc aceste sisteme sunt și cei care avertizează asupra riscurilor lor. OpenAI și Anthropic au susținut în iulie o petiție prin care angajați ai celor două companii cereau guvernului american să ia măsuri pentru a „încetini deliberat” dezvoltarea AI.

OpenAI a anunțat, de asemenea, o pauză de două săptămâni în anumite activități de antrenare a modelelor. Aceasta a venit în contextul preocupărilor legate de securitate. Compania a precizat însă că măsura nu reprezenta „o pauză asupra tuturor cercetărilor, antrenamentelor sau produselor destinate clienților”.

Ulterior, dezvoltarea a continuat. OpenAI a reluat un proces important de antrenare a unui viitor model. Iar Anthropic a lansat noi modele.

Sam Altman și problema pierderii controlului

Sam Altman, directorul general al OpenAI, a identificat într-un interviu recent două riscuri majore asociate inteligenței artificiale. Primul este „pierderea controlului”. Adică situația în care AI ar deveni atât de puternică încât oamenii nu ar mai putea garanta că dețin controlul asupra ei.

Al doilea este concentrarea excesivă a puterii. Posibilitatea ca o singură companie, un singur model sau o singură persoană să ajungă să dețină o influență disproporționată. Potrivit autorilor, cele două riscuri aparent opuse ar putea evolua simultan. Companiile AI acumulează tot mai multă putere în timp ce accelerează dezvoltarea unor tehnologii al căror rezultat final rămâne dificil de anticipat.

Ce este, de fapt, „singularitatea”?

Termenul „singularitate” este folosit pentru a descrie un moment ipotetic în care inteligența mașinilor ar evolua atât de rapid încât ar depăși capacitatea oamenilor de a înțelege sau controla schimbarea.

În urmă cu 11 ani, Sam Altman publica un text despre inteligența mașinilor în care avertiza că singularitatea ar putea aduce haos și chiar distrugere.

„În general, arcul tehnologiei a însemnat reducerea hazardului și creșterea controlului nostru asupra lumii. La un moment dat, în secolul următor, vom avea cea mai mare cantitate de hazard introdusă vreodată în sistem”, scria Altman la acea vreme.

Între timp, discursul său s-a schimbat. Anul trecut, Altman a susținut că punctul de cotitură a sosit deja, dar l-a numit o „singularitate blândă”, despre care spunea că va fi impresionantă, dar gestionabilă.

Singularitatea ca țintă în mișcare

Nu există însă o definiție unanim acceptată a momentului în care singularitatea ar începe. Pentru unii cercetători și antreprenori din industria AI, aceasta ar putea apărea prin ceea ce se numește „îmbunătățire recursivă” – procesul prin care sistemele AI ar deveni capabile să își îmbunătățească propriile capacități în mod repetat.

Jack Clark, cofondator al Anthropic, a estimat că un astfel de proces ar putea începe până în 2028. Și compania de plăți Stripe a susținut recent că 1 ianuarie a marcat „începutul singularității”. În cazul Stripe, însă, definiția a fost una economică: compania a asociat momentul cu o creștere masivă a ritmului de înființare a unor noi firme.

Ray Kurzweil, unul dintre cei mai cunoscuți futurologi care au popularizat conceptul, consideră că ideea centrală a singularității este accelerarea progresului tehnologic și extinderea exponențială a capacităților sale. Cu alte cuvinte, momentul exact în care singularitatea ar putea fi considerată atinsă rămâne greu de stabilit.

Poate că singularitatea nu este despre mașini, ci despre oameni

Aici se află una dintre ideile centrale ale analizei publicate de The Atlantic. Autorii susțin că este posibil ca singularitatea să nu fie un moment în care o inteligență artificială superioară preia controlul asupra lumii. Ci un punct de cotitură produs de deciziile oamenilor.

Inteligența artificială nu evoluează independent de societate. Oamenii decid cât de repede este construită, unde este folosită, ce reguli o limitează și cât de multă putere este transferată către aceste sisteme.

Din acest punct de vedere, schimbarea nu trebuie să fie neapărat provocată de apariția unei inteligențe artificiale conștiente sau superinteligente.

Modelele actuale nu sunt considerate conștiente și nu există dovezi că ar fi devenit superinteligente. Însă utilizarea lor la scară largă modifică deja modul în care oamenii muncesc, învață, comunică și iau decizii.

Care mai este rațiunea de a fi a omului?

Articolul ridică, în final, o întrebare fundamentală despre locul oamenilor într-o economie și într-o societate în care tot mai multe activități pot fi automatizate.

Dacă AI poate scrie, programa, analiza informații, produce imagini, genera voci, administra procese și chiar lua anumite decizii, care mai este rolul omului? Este o întrebare care nu ține doar de tehnologie, ci de felul în care societatea decide să o folosească.

În această interpretare, „singularitatea” nu mai trebuie privită exclusiv ca momentul în care o mașină devine mai inteligentă decât omul. Poate fi, mai degrabă, momentul în care oamenii renunță treptat la controlul asupra unor decizii esențiale, convinși că ritmul progresului nu poate fi încetinit.

Concluzia autorilor este formulată într-o manieră provocatoare: „Mașina nu e Dumnezeu, mașina suntem noi”.

Iar aceasta schimbă fundamental perspectiva asupra viitorului AI. Dacă actualul haos nu este rezultatul unei inteligențe superioare care a preluat controlul, ci al deciziilor oamenilor, atunci dezvoltarea inteligenței artificiale nu este inevitabilă. Direcția ei poate fi încă influențată de alegerile societății, ale companiilor și ale guvernelor.