„Apocalipsa AI” ne distrage atenția de la problemele care există deja

Într-o perioadă în care industria inteligenței artificiale este dominată de discuții despre modele din ce în ce mai puternice și despre posibilitatea ca acestea să scape, într-o zi, de sub controlul oamenilor, cercetătoarea Timnit Gebru propune o schimbare radicală de perspectivă.

Într-un interviu acordat WIRED, Gebru susține că obsesia pentru scenariile în care inteligența artificială ar putea duce la dispariția omenirii distrage atenția de la probleme mult mai concrete: utilizarea AI în război, armele autonome, pierderea locurilor de muncă, impactul climatic și modul în care marile companii tehnologice dezvoltă și implementează aceste sisteme.

De ce a devenit „inteligența” sinonimă cu matematica și programarea?

Una dintre temele abordate de Gebru este cursa companiilor AI pentru a demonstra că modelele lor au devenit „mai inteligente”.

În opinia sa, industria a ajuns să acorde o importanță disproporționată unor domenii precum matematica, programarea sau șahul. Performanțele spectaculoase obținute în aceste domenii sunt apoi prezentate drept dovezi că sistemele AI se apropie de o formă generală de inteligență. Gebru pune sub semnul întrebării această logică. Ea face referire la disputa recentă privind o problemă de matematică cu un premiu de un milion de dolari și la modul în care rezultatul obținut de OpenAI a fost prezentat public. Cercetătoarea consideră că astfel de performanțe ar trebui evaluate mai întâi de comunitățile academice relevante, înainte ca ele să fie transformate în demonstrații despre cât de „inteligentă” a devenit inteligența artificială.

Problema, spune ea, este că între anunțul unei companii și reacția publică sau politică există din ce în ce mai puțin timp. O demonstrație tehnică poate deveni rapid argument pentru politici publice, investiții sau schimbări legislative, înainte ca specialiștii independenți să stabilească exact cât de importantă este acea realizare.

Cine este responsabil când un sistem AI produce daune?

Poate cea mai sugestivă analogie folosită de Gebru este cea a unui pod. Dacă un pod se prăbușește, nu întrebăm dacă podul a fost „rău”, dacă avea intenții sau dacă a decis singur să cadă. Întrebăm cine l-a proiectat, cine l-a construit, ce teste au fost efectuate și cine a autorizat funcționarea lui.

Gebru spune că aceeași logică ar trebui aplicată și inteligenței artificiale. În loc să tratăm un model AI ca pe o entitate autonomă care „a decis” să facă ceva periculos, ar trebui să ne întrebăm cine a construit sistemul, cine l-a antrenat, ce obiective i-au fost stabilite, ce controale există și cine răspunde atunci când lucrurile merg prost.

Această perspectivă schimbă fundamental discuția despre siguranța AI. În loc de întrebarea „Cum oprim mașina să se revolte?”, întrebarea devine: „Cine controlează mașina și ce reguli trebuie să respecte?”

Riscurile reale sunt deja aici

Gebru nu susține că inteligența artificială este lipsită de riscuri. Dimpotrivă, argumentul ei este că trebuie să fim mai atenți la riscurile care există deja.

Un exemplu este utilizarea AI pentru arme autonome. Spre deosebire de scenariile ipotetice în care un sistem superinteligent ar decide să elimine omenirea, armele capabile să utilizeze tehnologii avansate de automatizare și inteligență artificială sunt legate de conflicte reale și de decizii militare care au consecințe asupra oamenilor. Un alt risc este cel climatic. Centrele de date și infrastructura necesară dezvoltării modelelor AI necesită cantități importante de energie, iar extinderea rapidă a industriei poate avea consecințe asupra mediului.

Există și problema muncii. Gebru atrage atenția asupra situațiilor în care angajatorii folosesc inteligența artificială ca justificare pentru reducerea personalului sau eliminarea anumitor posturi. Acestea sunt probleme măsurabile și actuale, nu predicții despre un viitor îndepărtat.

„Mașina-zeu” și povestea sfârșitului lumii

Gebru este deosebit de critică față de ceea ce descrie drept o narațiune de tip „machine-god”, ideea că AI va deveni o entitate atât de puternică încât oamenii nu vor mai putea să o controleze. În această viziune, inteligența artificială ar putea deveni suficient de autonomă pentru a-și urmări propriile obiective, pentru a se reproduce sau pentru a prelua controlul asupra infrastructurilor esențiale și, în cele din urmă, pentru a reprezenta o amenințare existențială pentru omenire.

Unii cercetători din industria AI iau foarte în serios aceste scenarii. Recent, inclusiv angajați ai unor companii importante din domeniu și-au exprimat public temerile legate de posibilitatea ca dezvoltarea accelerată a AI să conducă, în anumite condiții, la consecințe catastrofale.

Gebru consideră însă că astfel de scenarii pot deveni o distragere de la problemele de azi. În opinia ei, este mult mai ușor să porți o dezbatere abstractă despre o superinteligență care ar putea distruge omenirea decât să discuți despre responsabilitatea concretă a companiilor, despre arme, concedieri, exploatarea muncitorilor sau efectele asupra mediului.

O industrie aflată într-o cursă

Un alt element important în analiza lui Gebru este presiunea economică asupra companiilor AI. Industria se află într-o cursă pentru a demonstra că fiecare nou model este mai puternic decât precedentul. În acest context, performanțele spectaculoase pot avea o valoare uriașă pentru companii, mai ales într-o perioadă în care investitorii urmăresc cu atenție viitoarea evoluție financiară a marilor laboratoare AI.

Gebru observă că cercetarea științifică a fost în trecut caracterizată mai mult de colaborare între echipe și companii. Astăzi, spune ea, competiția este mult mai intensă. Asta creează un stimulent pentru anunțuri spectaculoase, demonstrații publice și revendicarea rapidă a unor „premiere”.

Într-o asemenea atmosferă, granița dintre cercetare științifică, marketing și strategie corporativă poate deveni mai greu de identificat.

De ce dezbaterea despre AI pare atât de familiară?

Unul dintre cele mai interesante argumente ale lui Gebru este că multe dintre discuțiile actuale despre inteligența artificială nu sunt, de fapt, atât de noi.

Ideea unei mașini capabile să depășească inteligența umană și să schimbe radical societatea există încă din primele decenii ale cercetării în domeniul AI.

Gebru spune că uneori le citește oamenilor declarații despre inteligența artificială și îi întreabă din ce deceniu provin. Mulți nu reușesc să răspundă, tocmai pentru că argumentele și predicțiile de astăzi seamănă cu cele formulate cu zeci de ani în urmă. Pentru ea, acest lucru este un semnal că unele dintre cele mai spectaculoase promisiuni și temeri legate de AI au devenit aproape o poveste recurentă a industriei tehnologice.