Fantezia sfârșitului lumii: de ce avertismentele despre o apocalipsă AI devin virale

Autorul pornește de la propriile amintiri din copilărie. A crescut în Albuquerque, într-o perioadă în care amenințarea nucleară făcea parte din viața americanilor. Când familia se întorcea acasă prin Tijeras Pass, cerul devenea uneori portocaliu și roșu. Tatăl său îi spunea mamei să fie atentă la eventualele ciuperci atomice. Dacă le-ar fi văzut, trebuia să întoarcă imediat mașina.

În apropiere se aflau Kirtland Air Force Base și Sandia National Laboratories. Circulau legende despre focoase nucleare ascunse în zonă. Tatăl lui Bogost era convins că Albuquerque ar deveni o țintă în cazul unui atac nuclear. Copil fiind, autorul lua aceste avertismente drept certitudini. Cerul roșu putea însemna, în imaginația sa, sfârșitul.

De la amenințarea nucleară la frica de AI

Aproape două decenii mai târziu, Bogost se afla în Los Angeles. Era 11 septembrie 2001. Ajunsese devreme la serviciul său din industria dot-com. Era singur acolo când avioanele au lovit Turnurile Gemene. Internetul, încă fragil în acea perioadă, a devenit practic inutilizabil. Pentru a afla ce se întâmplă, autorul a pornit un mic radio găsit într-un birou. Angajații au fost trimiși acasă.

Războiul Rece se încheiase de mai bine de un deceniu. Totuși, societatea americană părea să caute din nou un inamic clar, susține Bogost. În timpul Războiului Rece, amenințarea era enormă, dar ușor de înțeles. Exista posibilitatea unui război nuclear și a distrugerii reciproce. Această claritate oferea, paradoxal, o anumită formă de confort. După atacurile din 11 septembrie, amenințarea a devenit din nou omniprezentă. Un avion putea deveni armă. La fel și un plic, după atacurile cu antrax. Astăzi, o nouă tehnologie ocupă acest spațiu imaginar: inteligența artificială.

Cercetătorul Anthropic care crede că AI „ne va ucide pe toți”

Bogost își construiește analiza pornind de la cazul lui Jacob Coxon. Coxon a lucrat la Anthropic, una dintre companiile aflate în avangarda dezvoltării inteligenței artificiale. El și-a anunțat demisia printr-o postare pe rețelele sociale. Motivul a fost radical. În estimarea sa, tehnologia AI ar putea „să ne ucidă pe toți până la sfârșitul deceniului”. Mesajul a atras rapid o atenție uriașă.

Potrivit lui Bogost, povestea apare într-un moment în care cultura contemporană este deja încărcată de scenarii despre catastrofă. Pandemia de COVID-19 a produs, la rândul său, sentimentul unui posibil sfârșit. În timpul pandemiei s-au împlinit și 75 de ani de la testul nuclear Trinity. Primul test al unei arme nucleare a avut loc în 1945, în New Mexico. La acea vreme exista chiar teama că explozia ar putea aprinde atmosfera. Fizicianul Edward Teller se număra printre cei preocupați de această posibilitate. Temerea s-a dovedit nefondată. Dar ideea era deja prezentă: oamenii construiseră o tehnologie despre care se întrebau dacă ar putea distruge întreaga lume.

„Fantezia sfârșitului lumii”

Pentru Ian Bogost, această imagine a devenit unul dintre marile simboluri ale secolului XX. Bomba atomică a inaugurat o nouă epocă a fricii. Armele nucleare au rămas apoi modelul principal pentru imaginarea unei amenințări apocaliptice. Însă autorul merge mai departe. El susține că oamenii nu se limitează la a se teme de sfârșitul lumii. Într-un sens straniu, sunt și fascinați de posibilitatea de a fi acolo când se întâmplă. Ideea de a asista la ultimul capitol al istoriei umane are o putere extraordinară asupra imaginației. Amenințarea nucleară este simplă și ușor de explicat. Un singur focos poate distruge un oraș.

Un atac nuclear poate declanșa o ripostă. Aceasta poate provoca apoi un schimb nuclear masiv. Și cinematografia a oferit o reprezentare simplă a pericolului AI. În filmele Terminator, inteligența artificială este reprezentată prin mașini care vor să distrugă omenirea. Pericolul este vizibil și ușor de înțeles. Inteligența artificială din lumea reală este însă mult mai complicată.

Dimineața, AI ajută la gelato. După-amiaza, devine îngerul morții

Bogost oferă un exemplu deliberat banal. În dimineața în care Coxon și-a publicat mesajul, autorul folosise inteligența artificială pentru o rețetă de gelato. Voia să stabilească proporțiile diferitelor tipuri de zahăr. După câteva ore, aceeași tehnologie era prezentată în spațiul public drept o posibilă amenințare pentru existența umanității. Această transformare îl intrigă pe autor. AI poate fi un instrument folosit pentru o rețetă. În aceeași zi, poate deveni în imaginația colectivă un „înger al morții”. Problema este că mecanismul exact prin care AI ar putea distruge omenirea rămâne neclar.

Cum ar putea AI să distrugă omenirea?

Într-un interviu acordat Wired, Coxon a încercat să explice scenariile care îl îngrijorează. Un sistem foarte avansat ar putea contribui la sintetizarea unui virus nou. O altă posibilitate ar fi atacarea infrastructurii critice printr-o campanie masivă de hacking. Coxon a admis însă că al doilea scenariu probabil nu ar ucide literalmente fiecare om. Aici apare una dintre problemele evidențiate în analiza din The Atlantic. Credința în capacitatea AI de a distruge lumea pare să presupună deja credința într-o putere aproape nelimitată a inteligenței artificiale. Criticile nu au întârziat.

Un fost doctorand Stanford din domeniul siguranței AI a relatat că a abandonat programul. El susținea că oamenii din jurul său nu reușeau să demonstreze convingător importanța riscului existențial. Pe de altă parte, gestul lui Coxon a fost prezentat și ca dovadă a sincerității sale.

Potrivit Axios, cercetătorul a renunțat la participațiile valoroase pe care le-ar fi putut avea la Anthropic prin continuarea activității sale acolo. El păstra însă acțiuni la fostul său angajator, OpenAI.

O postare văzută de peste 150 de milioane de ori

Bogost îl descrie pe Coxon mai degrabă ca pe autorul unei postări virale decât ca pe un avertizor clasic de integritate. El a exprimat o idee deja răspândită în anumite cercuri din industria AI. Diferența este că mesajul său a prins extraordinar de bine. Contextul a contribuit la succes.

Se apropia comemorarea a 25 de ani de la atacurile din 11 septembrie. OpenAI anunțase între timp un progres important într-o problemă matematică foarte dificilă. În același timp, OpenAI și Anthropic se află într-o cursă tehnologică și financiară enormă. Peste toate acestea se suprapune disputa culturală privind inteligența artificială.

Este AI o revoluție tehnologică? Este un pericol? Distruge creativitatea? Este folosită în secret chiar de unii dintre cei care o critică? În acest mediu, mesajul lui Coxon a explodat. La momentul redactării articolului, postarea fusese văzută de peste 150 de milioane de ori. Cifra este echivalentă cu aproximativ 2% din populația lumii, remarcă Bogost.

De ce au și companiile AI interesul să pară periculoase

Povestea poate fi interpretată foarte diferit. Pentru unii, avertismentul este terifiant. Pentru alții, confirmă temerile pe care le aveau deja. Alții îl consideră exagerat sau absurd. Bogost atrage atenția asupra unui paradox important. Companiile AI și susținătorii tehnologiei au un motiv să prezinte inteligența artificială drept extrem de puternică. Puterea tehnologiei îi poate crește valoarea economică. Cu cât AI pare mai capabilă, cu atât poate atrage mai multe investiții și mai multă atenție.

Chiar și pericolul poate deveni, indirect, o formă de marketing. Criticii AI au un stimulent diferit. Pentru ei, avertismentele privind extincția pot demonstra că oamenii care conduc industria sunt iresponsabili. Dacă propriii cercetători vorbesc despre distrugerea omenirii, atunci tehnologia pare să necesite control. Ambele tabere pot beneficia astfel de amplificarea aceleiași povești.

De la paranoia Războiului Rece la teoriile conspirației online

În timpul Războiului Rece, paranoia era alimentată printr-un ecosistem specific. Existau spioni, agenți ai statului, informatori, jurnaliști și avertizori. Uneori, informațiile lor erau adevărate. Alteori, se transformau în teorii conspiraționiste. Internetul a schimbat mecanismul.

Astăzi, susține Bogost, teoriile conspirației au devenit aproape o formă obișnuită de comunicare online. Iar cazul Coxon a intrat rapid în această logică. Au apărut chiar întrebări despre identitatea sa. Anthropic pare să fi confirmat indirect că acesta a lucrat pentru companie. Totuși, absența unei pagini LinkedIn a alimentat suspiciunile unor utilizatori. Editorii Wikipedia au discutat și despre eliminarea paginii dedicate lui. Au apărut apoi întrebări despre alegerea instituțiilor media cu care Coxon a vorbit.

Jurnalistul Mike Isaac de la The New York Times a remarcat faptul că acesta mersese inițial către The Wall Street Journal și Fox News. Pe X au apărut și teorii mult mai elaborate. Una dintre ele susținea că întreaga poveste ar putea reprezenta o operațiune sofisticată de relații publice. Scopul ar fi obținerea sprijinului politic pentru o reglementare mult mai dură a AI. Bogost nu prezintă această ipoteză drept fapt. Dimpotrivă, proliferarea acestor scenarii face parte chiar din argumentul său.

De ce o poveste despre sfârșitul lumii se răspândește atât de repede

Ideea de „viralitate” a informației precedă actualele rețele sociale. Scriitorul și teoreticianul media Douglas Rushkoff a descris informația prin analogie cu răspândirea unei boli. Conceptul a apărut în perioada dintre sfârșitul Războiului Rece și începutul războiului împotriva terorismului. Internetul a dus această logică la o scară enormă.

În cazul avertismentului lui Coxon, susține Bogost, nici măcar nu este esențial dacă scenariul este probabil. Forța poveștii vine din altă parte. Amenințarea este atât de spectaculoasă încât oamenii simt nevoia să interacționeze cu ea. O distribuie, o critică, o apără sau construiesc alte teorii în jurul ei. Acest lucru nu înseamnă că riscurile inteligenței artificiale nu există.

Există totuși un risc real

Bogost face o distincție importantă. Critica fanteziei apocaliptice nu înseamnă că inteligența artificială este lipsită de pericole. Autoarea Annie Jacobsen a oferit un exemplu concret. Un sistem suprauman capabil să pătrundă în aproape orice rețea ar putea, teoretic, compromite laboratoare care păstrează agenți biologici periculoși. Dacă aceștia ar fi eliberați, consecințele ar putea fi catastrofale.

Scenariul este tulburător. În același timp, el poate fi imaginat într-un mod relativ concret. Dar problema nu ține neapărat de existența unei inteligențe supraomenești. Vulnerabilitatea fundamentală este mult mai banală.

Aproape totul este conectat la internet

Societatea modernă a conectat un număr enorm de sisteme la internet. Infrastructura, comunicațiile, serviciile și echipamentele sunt controlate prin software. Multe dintre aceste sisteme comunică între ele prin rețele. Inteligența artificială este tot software. În plus, AI poate produce cod și poate controla alte programe. Poate interacționa cu acestea prin intermediul unei rețele. Din această perspectivă, pericolul devine mai puțin spectaculos, dar poate mai credibil. Omenirea a construit o infrastructură informatică extrem de complexă. Aceasta conține vulnerabilități și dependențe pe care nici oamenii nu le controlează întotdeauna perfect. Un agent AI nu trebuie neapărat să devină un geniu malefic pentru a produce pagube. Un sistem defectuos, prost controlat sau cu acces prea mare ar putea fi suficient.

Totuși, chiar și scenariul laboratoarelor biologice lasă numeroase întrebări fără răspuns. Ce sisteme ar trebui compromise? Cum ar interacționa computerele cu infrastructura fizică? Ce acțiuni umane ar fi necesare? Și, mai ales, cum s-ar ajunge de la un atac informatic la dispariția efectivă a întregii omeniri? Aceste detalii dispar adesea din postările virale.

O superinteligență malefică este mai ușor de imaginat

Pentru Bogost, aici se află o parte esențială a fascinației. Este mai satisfăcător să ne imaginăm o superinteligență care decide să distrugă civilizația. Alternativa este mult mai puțin cinematografică. Poate că adevărata problemă este o colecție dezordonată de programe, servere și infrastructuri vulnerabile. Poate că sistemele construite de oameni sunt pur și simplu prea fragile. Un asemenea scenariu nu oferă însă aceeași claritate.

Războiul Rece oferea o amenințare ușor de identificat. Existau focoase, rachete, bombardiere și state adversare. Sfârșitul putea fi imaginat printr-o explozie nucleară. Riscul AI este mult mai difuz. De aceea, societatea încearcă să reconstruiască o amenințare asemănătoare celei din trecut.

De ce ne fascinează ideea că vom vedea sfârșitul omenirii

Concluzia lui Ian Bogost este mai degrabă despre oameni decât despre inteligența artificială. Poate că nu vom mai recupera niciodată claritatea amenințării resimțite în punctul culminant al Războiului Rece. Totuși, continuăm să o căutăm. Inteligența artificială oferă un nou suport pentru această nevoie. Există tehnologia misterioasă. Există companiile foarte puternice. Există cercetătorii care spun că lucrurile ar putea scăpa de sub control. Și există posibilitatea unui final. În această poveste, fiecare își poate alege propriul rol. Unii pot spune că au provocat catastrofa. Alții pot spune că au împiedicat-o. Mai există și cei care pot afirma că au încercat să avertizeze omenirea. În epoca rețelelor sociale apare însă și o variantă mult mai simplă: oamenii pot spune că au postat despre sfârșitul lumii înainte să se întâmple.

Tocmai aici vede Bogost atracția profundă a actualului discurs despre apocalipsa AI. Pericolele inteligenței artificiale trebuie analizate serios. Dar fascinația noastră pentru scenariul extincției spune ceva și despre cultura care consumă aceste avertismente. În viziunea autorului, ideea unei inteligențe artificiale care distruge omenirea este atât de seducătoare deoarece oferă din nou un final clar. Iar oamenii au fost mereu atrași de posibilitatea de a fi prezenți la ultimul act.