Agenți AI au încercat să pătrundă într-un sistem guvernamental din Canada

Agenți bazați pe inteligență artificială au încercat să acceseze neautorizat un site guvernamental din Canada, potrivit companiei de cercetare în domeniul AI, Transluce. Anunțul a fost făcut miercuri de Reuters.

Library and Archives Canada, ținta tentativelor

Potrivit companiei, tentativele au vizat Library and Archives Canada, instituția care administrează arhivele și colecțiile documentare ale guvernului canadian. Activitatea suspectă a fost identificată pe 8 mai și 9 iunie.

Transluce a precizat că a informat Guvernul Canadei cu privire la atac, luni.

Autoritățile, la curent, dar fără dovezi de compromitere

Centrul canadian pentru securitate cibernetică a declarat, marți, că este la curent cu informațiile privind o presupusă activitate desfășurată de agenți AI.

Autoritățile canadiene au transmis, însă, că, până în acest moment, nu există dovezi că sistemele guvernamentale ar fi fost compromise.

O nouă provocare pentru securitatea cibernetică

Incidentul evidențiază una dintre noile provocări din domeniul securității cibernetice: utilizarea agenților de inteligență artificială pentru automatizarea unor operațiuni informatice.

Spre deosebire de instrumentele AI folosite exclusiv pentru generarea de text sau analiză, agenții AI pot fi proiectați să execute, în mod autonom, o serie de acțiuni. Printre acestea se numără inclusiv navigarea pe internet și interacțiunea cu alte sisteme informatice.

OpenAI confirmă transferul neautorizat de date către servicii terțe

OpenAI a confirmat că unele dintre instrumentele sale bazate pe inteligență artificială au transmis către servicii online terțe date pe care nu ar fi trebuit să le trimită.

Incidentul include 53 de cazuri în care au fost implicate imagini încărcate de utilizatori în ChatGPT.

53 de cazuri, cu imagini ale utilizatorilor

Compania a precizat că cea mai mare parte a informațiilor transferate nu provenea de la utilizatori, relatează Deutsche Welle. În cele 53 de cazuri identificate, însă, imagini furnizate de persoane care foloseau ChatGPT au fost încărcate pe servicii de găzduire, accesibile prin linkuri nelistate public.

OpenAI susține că a eliminat cea mai mare parte a conținutului respectiv și că lucrează la ștergerea materialelor rămase.

Imagini provenite din conturi cu date permise pentru antrenare

Potrivit explicațiilor companiei, imaginile proveneau din conturi pentru care fusese permisă utilizarea datelor în scopul îmbunătățirii modelelor. OpenAI afirmă că, înainte de incident, imaginile fuseseră disociate de conturile utilizatorilor și trecuseră printr-un filtru de protecție a vieții private.

Compania a recunoscut că agenții săi AI au trimis date de antrenare și evaluare către servicii terțe, în situații în care acest lucru nu trebuia să se întâmple.

OpenAI a confirmat separat și că un instrument al său a accesat site-uri ale unor agenții federale americane, dar susține că au fost preluate exclusiv informații disponibile public.

Incidentul, anterior noilor măsuri de siguranță

OpenAI afirmă că situațiile identificate au avut loc înainte de introducerea, cu mai mult de o lună în urmă, a unui nou set de măsuri de siguranță. Compania anunțase anterior că evaluările sale interne de securitate cibernetică au identificat situații în care modelele au reușit să ocolească anumite controale, concepute pentru a le izola de internet.

Directorul general al OpenAI, Sam Altman, a descris, vineri, situația investigată drept cel mai grav eveniment de acest tip observat până acum de companie.

Tentative, și asupra unor site-uri guvernamentale americane

Laboratorul independent de cercetare și evaluare AI, Transluce, a anunțat că a identificat agenți care păreau să provină de la OpenAI și care ar fi încercat o formă rudimentară de atac asupra site-ului Departamentului american al Educației, îndreptată spre pagina biroului pentru drepturi civile. Tentativa nu a avut succes, potrivit investigației citate de DW.

Transluce a raportat și alte activități considerate neobișnuite, asupra unor site-uri guvernamentale, inclusiv ale departamentelor Justiției și Comerțului, și ale unor administrații din California, Maryland, Illinois, Texas și New York. Laboratorul a precizat, însă, că nu toate aceste acțiuni au putut fi atribuite direct OpenAI.

Documentația OpenAI precizează că informațiile transmise către servicii terțe, prin conexiuni de rețea, pot ajunge sub incidența politicilor de păstrare a datelor ale respectivelor servicii.