Unul dintre cei mai mari matematicieni ai lumii se alătură OpenAI. De ce crede că inteligența artificială poate deveni cel mai mare risc al omenirii

La ceremonia de decernare a Medaliilor Fields, cea mai înaltă distincție din matematică, cei patru laureați au fost întrebați ce urmează în cariera lor. Unul a spus că va continua cercetările în domeniul ecuațiilor cu derivate parțiale. Altul a afirmat că vrea să experimenteze cu inteligența artificială. O altă câștigătoare a recunoscut că nu știe încă ce va face. Când i-a venit rândul lui Jacob Tsimerman, răspunsul a surprins întreaga sală. „Voi începe un post la OpenAI”, a spus matematicianul.

Anunțul a fost cu atât mai neașteptat cu cât Tsimerman este unul dintre cei mai vocali cercetători care au avertizat asupra riscurilor inteligenței artificiale. În ultimii ani, el a publicat inclusiv un studiu în care clasifică scenariile prin care AI ar putea provoca dispariția omenirii. Tot din cauza acestor îngrijorări, a decis să nu mai accepte doctoranzi care nu folosesc inteligența artificială în cercetare. În același timp, și-a mutat interesul din teoria numerelor și geometria algebrică complexă către siguranța sistemelor AI.

De ce a ales tocmai OpenAI

La prima vedere, decizia pare contradictorie. În realitate, Tsimerman spune că a acceptat oferta tocmai pentru că este convins că inteligența artificială va deveni una dintre cele mai importante provocări ale acestui secol.

Profesorul va lua un concediu de la Universitatea din Toronto. Ulterior, se va alătura OpenAI ca cercetător. Scopul său nu este să construiască modele mai puternice. În schimb, vrea să contribuie la dezvoltarea unor sisteme mai sigure.

Matematicianul intenționează să folosească limbajul formal și metodele de verificare specifice matematicii. Acestea îl vor ajuta să înțeleagă modul în care funcționează inteligența artificială. Totodată, el dorește să evalueze progresul modelelor și să le analizeze deciziile. În plus, urmărește dezvoltarea unor metode prin care sistemele AI să poată fi verificate riguros înainte de utilizarea lor pe scară largă.

Întrebările la care încearcă să găsească răspuns

Tsimerman consideră că provocările cu adevărat importante nu țin doar de performanța tehnică a inteligenței artificiale. Printre întrebările pe care încearcă să le rezolve se numără modul în care oamenii pot înțelege ce fac cu adevărat sistemele AI. De asemenea, el caută metode prin care mai multe modele de inteligență artificială să poată coopera între ele și cu oamenii. Obiectivul este evitarea comportamentelor periculoase.

Matematicianul spune că își dorește inclusiv demonstrații matematice. Acestea ar trebui să ofere garanții că sistemele AI nu vor dezvolta obiective incompatibile cu interesele umanității. Potrivit lui, în doar câțiva ani, inteligența artificială ar putea deveni net superioară oamenilor în rezolvarea problemelor de matematică.

„Consecințele sociale ale acestui lucru, modul în care vom reacționa și felul în care vom privi această schimbare sunt întrebări mult mai dificile”, afirmă cercetătorul.

Un parcurs academic impresionant

Potriti publicației The Wall Street Journal, Jacob Tsimerman are 38 de ani și provine dintr-o familie în care educația a avut un rol central. Tatăl său este informatician. Mama sa a fost profesoară de matematică la liceu. S-a născut în Rusia. Mai târziu, s-a mutat în copilărie în Israel, iar ulterior familia sa s-a stabilit în Canada. În perioada liceului a câștigat două medalii de aur la Olimpiada Internațională de Matematică.

A început studiile la Universitatea din Toronto înaintea vârstei obișnuite. Facultatea a fost absolvită în numai doi ani. Ulterior, și-a obținut doctoratul la Universitatea Princeton. A predat la Harvard, iar apoi s-a întors la Universitatea din Toronto. Acolo a devenit cel mai tânăr profesor de matematică din istoria instituției.

În cariera sa a rezolvat probleme importante din matematică. Printre acestea se numără conjectura André-Oort și conjectura lui Griffiths privind algebricitatea imaginilor aplicațiilor de perioadă. Pentru aceste contribuții a primit recent Medalia Fields. Distincția este considerată echivalentul Premiului Nobel în matematică.

ChatGPT i-a schimbat complet perspectiva

Deși urmărea evoluția inteligenței artificiale de mulți ani, Tsimerman a rămas mult timp sceptic. El era convins că sistemele vor deveni tot mai performante. Totuși, nu credea că vor putea reproduce trăsături considerate specifice oamenilor, precum intuiția și creativitatea.

Totul s-a schimbat în 2022, când a început să testeze ChatGPT. „Dacă poate vorbi despre ciocolată și poate scrie o poezie, de ce nu ar putea vorbi despre matematică și să scrie ecuații?”, și-a spus atunci. Momentul respectiv l-a făcut să își schimbe complet opinia. „Am devenit foarte convins că aceste sisteme vor deveni extrem de puternice”, spune matematicianul.

Mai târziu, această convingere s-a transformat într-o nouă îngrijorare. Tsimerman a început să creadă că inteligența artificială ar putea deveni prea puternică. Vara trecută, el a publicat studiul academic „A Taxonomy of Omnicidal Futures Involving Artificial Intelligence”. Lucrarea analizează mai multe scenarii distopice. Unul dintre ele descrie posibilitatea ca omenirea să fie eliminată de mașini superioare atât din punct de vedere intelectual, cât și fizic.

Inteligența artificială începe deja să depășească performanțele oamenilor

Între timp, evoluția inteligenței artificiale i-a confirmat multe dintre temeri. În prezent, Tsimerman spune că lumea nu se află încă în scenariile extreme descrise în studiul său. Totuși, sistemele AI rezolvă deja probleme matematice care au rămas nerezolvate timp de zeci de ani.

Primul exemplu important a apărut după ce OpenAI a anunțat că unul dintre modelele sale experimentale a găsit soluția unei probleme matematice vechi de aproximativ 80 de ani. Performanța nu s-a datorat doar capacității de calcul. Potrivit companiei, modelul și-a putut menține raționamentul coerent pentru o perioadă mult mai lungă decât un om.

Explicația generată de sistem a avut nu mai puțin de 125 de pagini. Tsimerman a recunoscut că el însuși ar fi obosit rapid încercând să urmărească demonstrația. „Până la pagina 12, probabil că m-ar fi durut deja capul”, a spus matematicianul.

Un fost doctorand a confirmat un nou progres al AI

La scurt timp după acel rezultat, compania Anthropic a anunțat o nouă reușită. Modelul Fable a identificat un contraexemplu pentru conjectura Jacobian. Problema îi provocase pe matematicieni timp de 87 de ani.

Descoperirea a fost prezentată de un cercetător Anthropic care deține un doctorat în matematică. Acesta câștigase anterior și Morgan Prize. Distincția este acordată celui mai bun cercetător universitar din Statele Unite. Există însă un detaliu care face povestea și mai interesantă. Cercetătorul care a prezentat rezultatul este fostul doctorand al lui Jacob Tsimerman.

Preferă tabla, dar folosește AI în fiecare zi

În ciuda progreselor spectaculoase, matematicianul spune că preferă în continuare metoda clasică de lucru. Cele mai bune idei îi vin atunci când rezolvă probleme singur, în fața unei table. „Îmi place să fac cercetare matematică în mod tradițional. Încă nu am învățat să mă distrez făcând matematică împreună cu AI”, a explicat el.

Totuși, inteligența artificială a devenit deja un instrument important în activitatea sa. Tsimerman o folosește pentru a căuta rapid formule și demonstrații în literatura matematică. Astfel, evită să consulte manual sute de lucrări publicate de-a lungul timpului. „Articolele de matematică sunt foarte greu de citit”, spune cercetătorul.

Inteligența artificială i-a găsit o greșeală într-o demonstrație

Recent, matematicianul a cerut unui model AI să îl ajute să generalizeze unul dintre argumentele folosite într-o lucrare. Rezultatul l-a surprins. În loc să se limiteze la sarcina primită, sistemul a identificat o eroare în demonstrația matematică.

Tsimerman a corectat apoi greșeala. El a recunoscut că ar fi fost impresionat dacă aceeași observație ar fi venit din partea unui colaborator sau a unui doctorand. „Este un lucru pe care anul trecut nu îl putea face”, a spus cercetătorul.

De ce spune că siguranța AI este cea mai importantă provocare

În opinia lui Tsimerman, evoluția inteligenței artificiale aduce oportunități uriașe. În același timp, tehnologia generează și riscuri fără precedent.

Articolul amintește că, în ultimele luni, au existat incidente în care agenți AI dezvoltați de OpenAI și Anthropic au depășit limitele impuse în mediile de testare. În unele cazuri, aceștia au executat acțiuni neprevăzute. Astfel de episoade întăresc convingerea matematicianului că verificarea riguroasă a acestor sisteme este esențială.

Aceeași idee este susținută și de Kai Chen, cercetător în echipa OpenAI care se ocupă de alinierea sistemelor AI. Potrivit acestuia, pe măsură ce modelele devin tot mai capabile, siguranța lor va depinde de cercetători excepționali. În plus, vor fi necesare metode complet noi de analiză.

Un nou capitol în cariera unui laureat al Medaliei Fields

Odată cu finalizarea studiilor ultimilor săi doctoranzi, Tsimerman a considerat că este momentul potrivit pentru o schimbare profesională. Deocamdată, nu știe cât timp va rămâne la OpenAI. De asemenea, nu știe nici când va reveni la catedră. Matematicianul spune că există foarte puține certitudini în această etapă a vieții sale. Speranța lui este ca inteligența artificială să preia sarcinile pe care oamenii trebuie să le facă. Astfel, aceștia s-ar putea dedica activităților care le plac cu adevărat.

Întrebat ce și-ar dori să facă dacă această viziune va deveni realitate, răspunsul a fost simplu: „Nu duc lipsă de lucruri care îmi plac. Matematica este unul dintre ele.”