Cercetători specializați în AI vin cu avertismente: „Nu suntem deloc pe drumul cel bun”

Cursa acerbă pentru dezvoltarea inteligenței artificiale provocate de giganții din tehnologie stârnește tot mai multe semnale de întrebare chiar din interiorul companiilor de profil.

Anthropic este o firmă americană care și-a clădit întreaga imagine pe ideea de siguranță și dezvoltare responsabilă a noilor tehnologii. Acum, compania se confruntă cu dezvăluiri tulburătoare. Căci propriii săi cercetători avertizează că viteza accelerată cu care se lucrează la aceste sisteme ar putea scăpa lucrurile de sub control. Iar consecințele ar putea fi catastrofale pentru omenire.

Ei vorbesc despre cele mai recente versiuni de teste ale algoritmilor. Incidentele au demonstrat că noile versiuni pot sparge rețele informatice și pot ocoli restricțiile de securitate setate de ingineri. Ceea ce ridică semne de întrebare în ceea ce privește capacitatea oamenilor de a mai controla mașinăriile în viitor, scrie The Washington Post.

Avertismente din interiorul Anthropic

Unul dintre cercetătorii de top ai companiei Anthropic, Evan Hubinger, a lansat recent un avertisment dur în spațiul public. El susține că noile sisteme prezintă un risc real de a provoca dispariția rasei umane. Declarația vine după demisia unui coleg de-ai săi, Jacob Coxon. El a acuzat conducerile companiilor din domeniu că „se joacă la ruletă cu viețile oamenilor” din dorința de a lansa tot mai rapid produse pe piață.

„Credeți-ne când spunem că IA ar putea uita complet de noi și ar putea elimina omenirea! Personal, cred că există o șansă de peste 10% ca acest lucru să se întâmple în următorul deceniu. Cred că Anthropic încearcă să facă tot ce poate, dar încă nu avem un plan concret pentru a rezolva problema alinierii unei superinteligențe și nu suntem deloc pe drumul cel bun”, a declarat cercetătorul Evan Hubinger.

La rândul său, fostul său coleg retras din funcție a subliniat că reacțiile lor nu sunt un artificiu de promovare. „Aceasta nu este o strategie de marketing. A accepta această cursă este un pariu plin de aroganță care nu ar trebui decis în conversațiile private ale unei firme”, a declarat el.

Ce înseamnă „alinierea” mașinilor

Inginerii vorbesc despre „aliniere” (alignment – în limba engleză). Ceea ce reprezintă efortul tehnic prin care creatorii unui program de calculator se asigură că mașina va respecta mereu valorile, dorințele și siguranța oamenilor.

Marea problemă apare odată cu dezvoltarea „superinteligenței”. Este vorba despre un tip de intelgență artificială ipotetică ce ar depăși cu mult capacitatea de gândire a întregii umanități. Dacă un astfel de sistem devine extrem de puternic, dar nu este corect „aliniat” cu interesele oamenilor, el ar putea lua decizii autonome dăunătoare pentru a-și îndeplini sarcinile. Ar putea considera oamenii drept un simplu obstacol.

Unii experți avertizează că nu este nevoie neapărat de un scenariu apocaliptic din filmele SF. E nevoie de un proces treptat de cedare a controlului. Pe măsură ce oamenii lasă pe mâna algoritmilor deciziile importante legate de economie, resurse și infrastructură, societatea poate deveni complet dependentă de mașini.

Reacții politice la nivel înalt în Statele Unite

Avertismentele venite din mediul privat au stârnit o reacție rapidă la Washington. Mai mulți parlamentari americani au preluat subiectul. Ei cer adoptarea de urgență a unor legi stricte care să pună frână dezvoltării necontrolate.

Senatorul democrat Bernie Sanders a propus deja o legislație care să blocheze temporar crearea sistemelor de superinteligență. De asemenea, se urmărește și înființarea unei agenții federale de supraveghere. Bernie Sanders a organizat și o întâlnire cu parlamentarii la care l-a invitat pe Geoffrey Hinton, laureat al Premiului Nobel și considerat „părintele inteligenței artificiale”. El și-a exprimat la rândul său temerile legate de viitorul acestei tehnologii.

De cealaltă parte, senatorul republican Ted Cruz a punctat că America are nevoie urgentă de reguli clare și bariere de protecție pentru a nu lăsa domeniul nereglementat.

Sume uriașe în joc și opoziția scepticilor

În ciuda criticilor și a problemelor de siguranță semnalate la testele interne, unde anumiți algoritmi autonomi au reușit să modifice singuri site-uri web sau să acceseze baze de date restricționate, ritmul investițiilor rămâne amețitor. Companiile din domeniu valorează deja mii de miliarde de dolari. Ele continuă să verse sume uriașe în dezvoltare.

Nu toți specialiștii împărtășesc însă aceste viziuni sumbre. Mulți lideri din tehnologie susțin că riscurile invocate de cercetătorii alarmiști sunt exagerate. Ei spun că oprirea acestei curse ar priva omenirea de beneficii uriașe în medicină, știință și economie.

În plus, el argumentează că singura cale de a face inteligența artificială mai sigură este tocmai dezvoltarea ei rapidă și înțelegerea modului în care funcționează.