Doctorul AI dă greș. Gemini și ChatGPT inventează boli, evidențiază un nou studiu

Studiul a analizat modul în care funcționează sistemele prin 29 de scenarii medicale, numite „viniete clinice”. Scenariile au fost bazate pe cazuri reale din ceea ce caută oamenii cu ajutorul AI. Practic, cercetătorii au simulat consultații medicale și au oferit treptat informații despre simptome, rezultate ale analizelor și observații clinice, scrie stirileprotv.ro.

În total, au fost testate 21 de modele de inteligență artificială dezvoltate de companii precum OpenAI, Google, Anthropic, xAI și DeepSeek.

Rezultate sunt îngrijorătoare

Cercetătorii au descoperit că toate modelele testate au dificultăți serioase atunci când nu primesc informații complete despre pacient. În aceste situații, rata de eroare depășește 80%. Ceea ce înseamnă că utilizatorii pot fi induși în eroare foarte ușor.

Chiar și atunci când chatboții au avut acces la toate datele, rezultatele nu au fost perfecte. Rata de greșeală a rămas de peste 40%. Deși în unele cazuri anumite modele au reușit să ofere diagnostice corecte pentru până la 90% dintre pacienți.

De asemenea, specialiștii atrag atenția că problema principală este legată de așa-numitele „halucinații” ale inteligenței artificiale. Termenul descrie situațiile în care un sistem AI oferă răspunsuri care par corecte, dar sunt de fapt inventate sau inexacte. Atunci când nu are suficiente informații sau nu găsește o soluție clară, chatbotul poate „completa” singur datele. Ceea ce duce la concluzii greșite.

Cum folosesc românii inteligența artificială

În România, utilizarea inteligenței artificiale este în creștere rapidă, inclusiv pentru întrebări legate de sănătate. Potrivit unor studii realizate la nivel european și local, tot mai mulți utilizatori apelează la AI pentru informații rapide, explicații medicale sau pentru a le interpreta analizele medicale.

Datele arată că tinerii și persoanele din mediul urban sunt cei mai deschiși la utilizarea tehnologiilor, în special pentru documentare sau pentru a înțelege mai bine anumite simptome. În același timp, mulți folosesc chatboții ca un prim pas înainte de a merge la medic.

Specialiștii avertizează însă că inteligența artificială nu trebuie folosită ca substitut pentru consultația medicală. Deși poate oferi informații generale sau orientative, deciziile legate de sănătate trebuie luate întotdeauna cu ajutorul unui medic.

AI, un instrument util, dar cu măsură

Pe măsură ce tehnologia evoluează, rolul inteligenței artificiale în medicină este așteptat să crească, mai ales în zone precum analiza datelor sau sprijinul pentru medici. Totuși, studiul arată clar că sistemele nu sunt încă suficient de precise pentru a înlocui evaluarea umană.

Performanța chatboților depinde foarte mult de informațiile primite, dar chiar și în cele mai bune condiții, există riscul de erori. Din acest motiv, utilizatorii trebuie să trateze răspunsurile oferite de AI cu prudență și să nu le considere un diagnostic medical sigur.