Regele Charles al III-lea spune că AI riscă să dezvolte capacități întunecate: „Există o urgență”

La întâlnire au participat, printre alții, ministrul britanic pentru Inteligență Artificială, Kanishka Narayan, un consilier al Papei, precum și reprezentanți ai unor companii importante din domeniu, printre care Nvidia, OpenAI și Anthropic. Dezvoltarea modelelor de inteligență artificială avansată se accelerează. Chiar persoane din interiorul industriei avertizează asupra unor riscuri care ar putea apărea pe măsură ce aceste sisteme devin mai capabile.

Regele Charles: „AI riscă să dezvolte capacități mai întunecate”

În discursul adresat participanților, Regele Charles a făcut referire la avertismentele venite chiar din partea celor care dezvoltă aceste tehnologii. „Cei care au creat aceste tehnologii avertizează tot mai mult că inteligența artificială riscă să dezvolte capacități mai întunecate. Poate chiar să ajungă să ia vieți”, a spus suveranul britanic.

Regele Charles a subliniat că există o nevoie urgentă de a analiza riscurile pe care le-ar putea avea folosirea necorespunzătoare a inteligenței artificiale. „Există o urgență în a lua în considerare în mod adecvat pericolele existențiale ale unor astfel de tehnologii care ajung pe mâini greșite și sunt folosite în moduri potențial catastrofale”, a declarat el, citat de BBC.

În opinia regelui, responsabilitatea companiilor din domeniu nu se limitează la dezvoltarea unor tehnologii din ce în ce mai performante. „Sarcina care vă revine nu este doar să faceți tehnologia să avanseze. Ci să vă asigurați că aceasta rămâne ferm în slujba umanității, a comunității și a lumii naturale”, le-a transmis Charles participanților.

Ce spune șeful Nvidia

Printre participanți s-a numărat și Jensen Huang, directorul general al Nvidia. Este vorba despre o companie care furnizează procesoare și infrastructură utilizate pentru dezvoltarea și rularea modelelor de inteligență artificială. Huang a spus că siguranța trebuie să fie „paramount”, adică o prioritate absolută. El a afirmat că firmele ar trebui să amâne lansarea unui produs dacă acesta nu este suficient de sigur.

Huang a vorbit și despre modelele AI open source sau deschise, prin care utilizatorii și cercetătorii pot avea un acces mai direct la tehnologie. În opinia sa, acestea pot contribui la reducerea diferențelor dintre oameni și țări în ceea ce privește accesul la inteligența artificială.

El a punctat că astfel de sisteme trebuie, în același timp, protejate pentru a permite cercetătorilor, universităților, start-up-urilor și statelor să dezvolte aplicații noi. „Să conducem cu un optimism responsabil. Să construim inteligența artificială în siguranță și securitate. Să o deschidem către mai mulți oameni. Să ne extindem ambiția și să rezolvăm problemele care contează pentru lume”, a mai spus Huang.

Inteligența artificială generală ar putea fi la câțiva ani distanță

O perspectivă mai prudentă asupra ritmului dezvoltării tehnologiei a venit din partea lui Sir Demis Hassabis. El este cofondator al laboratorului britanic DeepMind, care a fost ulterior cumpărat de Google. Hassabis a estimat că inteligența artificială generală, cunoscută sub acronimul AGI, ar putea fi „la doar câțiva ani distanță”. Prin AGI se înțelege un tip de inteligență artificială capabil să îndeplinească o gamă largă de sarcini la un nivel comparabil sau superior celui uman.

Potrivit lui Hassabis, impactul unei astfel de tehnologii ar putea fi de „zece ori mai mare decât cel al Revoluției Industriale”. El a recunoscut că probabilitatea ca ceva să meargă prost „nu este cu siguranță zero”. Dar a pledat pentru o abordare de mijloc în ceea ce privește dezvoltarea AI.

În opinia sa, riscurile pot fi gestionate dacă societatea are suficient timp pentru a le identifica și pentru a găsi modalități de reducere a lor. „Viitorul nu este încă scris”, le-a transmis Hassabis participanților la summit.

OpenAI: „Nicio companie sau guvern nu poate face asta singur”

Sarah Friar, directorul financiar al OpenAI, a subliniat potențialul inteligenței artificiale de a contribui la rezolvarea unora dintre cele mai dificile probleme ale societății. În același timp, ea a recunoscut că dezvoltarea rapidă a tehnologiei ridică întrebări importante despre siguranță și despre modul în care poate fi garantat faptul că AI va continua să fie folosită în beneficiul oamenilor. „Trebuie să abordăm aceste întrebări împreună”, a spus Friar.

„Nicio companie sau guvern nu poate face asta singur și sunt recunoscătoare Majestății Sale pentru că a organizat această discuție într-un moment atât de important”, a adăugat reprezentanta OpenAI.