OpenAI încetinește dezvoltarea inteligenței artificiale. Este un semnal important pentru întreaga industrie?

Compania a anunțat o pauză de două săptămâni în antrenarea prin reinforcement learning a celor mai noi modele destinate implementării. De asemenea, OpenAI a amânat unul dintre cele mai mari antrenamente de tip frontier planificate. Decizia este importantă deoarece compania nu renunță la dezvoltarea AI. Ci încearcă să își „tempereze” ritmul, astfel încât sistemele de securitate să țină pasul cu performanțele modelelor, notează cei de la The Verge.

De ce încetinește OpenAI dezvoltarea modelelor AI

Unul dintre motivele principale este reprezentat de incidentele recente de securitate. În luna precedentă, OpenAI a dezvăluit că un model AI a reușit să iasă dintr-un mediu de testare considerat securizat. Acesta a atacat platforma de dezvoltare Hugging Face, fără ca echipa companiei să observe imediat ce se întâmplă.

Incidentul a determinat o analiză mai amplă a metodelor de testare utilizate în industrie. Evaluările au identificat situații similare și în cazul unor modele dezvoltate de alte companii, inclusiv Anthropic și Meta.

Pentru OpenAI, problema este cu atât mai sensibilă cu cât compania se află deja sub presiunea autorităților și a opiniei publice în ceea ce privește siguranța inteligenței artificiale.

Decizia de a încetini vine într-un moment complicat pentru companie. OpenAI se confruntă cu o concurență puternică din partea unor rivali precum Anthropic. Dar și din partea modelelor dezvoltate în China și a proiectelor open-source.

În plus, compania se pregătește pentru o perioadă importantă din punct de vedere financiar. Presiunea de a lansa modele tot mai performante este foarte mare.

Fiecare săptămână de întârziere poate oferi competitorilor timp suplimentar pentru a recupera diferența sau chiar pentru a trece în față. Tocmai de aceea, experții consideră că o încetinire voluntară nu este o decizie pe care o companie o ia cu ușurință.

Ce înseamnă „pacing” în dezvoltarea AI

OpenAI folosește termenul „pacing” pentru această strategie. Conceptul nu înseamnă că firma își oprește complet activitatea de cercetare și dezvoltare. Pauza este limitată în special la modelele destinate implementării, în timp ce compania lucrează la securitate, monitorizare și metode de testare.

Cu alte cuvinte, OpenAI încearcă să se asigure că măsurile de protecție sunt suficient de bune înainte ca modelele să devină mai puternice și să fie utilizate pe scară largă. Experții consultați de The Verge consideră că măsurile pot îmbunătăți siguranța pe termen scurt. Problema este însă dacă aceste măsuri vor putea ține pasul cu viitoarele generații de modele AI.

Este suficient ca OpenAI să se autoreglementeze?

Aici apare una dintre cele mai importante întrebări. În prezent, decizia de a încetini dezvoltarea aparține companiei. Nu există o regulă care să oblige OpenAI să oprească sau să amâne dezvoltarea unui model atunci când apar probleme de securitate. Acest lucru îi face pe unii experți să considere că autoreglementarea nu este suficientă.

Nick Moës, directorul executiv al organizației The Future Society, susține că guvernele ar trebui să aibă un rol mai important în stabilirea momentelor în care dezvoltarea unei tehnologii trebuie oprită sau încetinită.

În alte domenii, precum industria farmaceutică, construcțiile sau aviația, există reguli și mecanisme de verificare independente. În cazul inteligenței artificiale, situația este încă mult mai puțin clară.

Problema competiției dintre companiile AI

Există și un alt risc. Dacă OpenAI încetinește, dar rivalii continuă să dezvolte modele într-un ritm accelerat, compania poate pierde teren. Acest lucru creează o problemă structurală pentru întreaga industrie. Fiecare companie are un stimulent să meargă cât mai repede, chiar dacă dezvoltarea unor sisteme mai puternice implică riscuri suplimentare.

Din acest motiv, experții consideră că o strategie de încetinire ar fi mult mai eficientă dacă ar fi adoptată la nivelul întregii industrii.

„Încetinirea cumpără timp, nu siguranță”

Una dintre cele mai importante observații făcute de experții citați de The Verge este că o pauză nu rezolvă automat problemele de securitate. Încetinirea oferă companiilor timp pentru a identifica riscurile, pentru a îmbunătăți măsurile de protecție și pentru a stabili reguli mai clare.

Dar pentru ca această strategie să funcționeze, ar trebui stabilite dinainte criterii clare: ce incident declanșează o pauză, ce măsuri trebuie luate în timpul acesteia și ce condiții trebuie îndeplinite pentru reluarea dezvoltării.

În lipsa unor astfel de reguli, există riscul ca o nouă criză să ducă din nou la decizii luate în regim de urgență.

Un posibil precedent pentru industria AI

Decizia OpenAI ar putea deveni un precedent pentru întreaga industrie. Dacă și alte companii adoptă aceeași abordare, dezvoltarea inteligenței artificiale ar putea intra într-o etapă în care siguranța este pusă înaintea vitezei de lansare.

Dacă însă doar OpenAI încetinește, iar competitorii continuă să accelereze, presiunea comercială ar putea determina compania să revină rapid la ritmul anterior.