Cine poate citi conversațiile cu ChatGPT? Ce se întâmplă cu dialogurile utilizatorilor

Evaluatorii pot avea acces la conversații complete, ceea ce înseamnă că, în anumite situații, pot vedea și informații personale introduse de utilizatori în timpul discuțiilor.

Informația ridică întrebări importante despre confidențialitate, mai ales în condițiile în care oamenii folosesc tot mai mult chatboturile pentru conversații care pot conține date sensibile, informații despre viața personală sau documente de lucru.

De ce sunt analizate conversațiile cu ChatGPT

Analizarea conversațiilor face parte din procesul prin care sunt evaluate răspunsurile modelelor de inteligență artificială.

Potrivit informațiilor prezentate în materialul citat, colaboratorii OpenAI analizează dialogurile și evaluează modul în care modelul răspunde utilizatorilor. Scopul este identificarea unor comportamente care trebuie îmbunătățite și ajustarea sistemului.

Cu alte cuvinte, în spatele unui model de inteligență artificială nu există doar procese automate. Unele dintre evaluări implică și oameni care verifică efectiv răspunsurile generate.

Aceștia pot vedea conversații întregi, nu doar o singură întrebare sau un răspuns izolat.

OpenAI încearcă să elimine datele personale

Potrivit informațiilor prezentate în articolul-sursă, OpenAI încearcă să elimine automat datele personale înainte ca anumite conversații să ajungă la evaluatori.

În acest proces, numele utilizatorilor nu ar trebui să fie vizibile pentru persoanele care analizează dialogurile.

Există însă o limitare importantă: sistemele automate de identificare și eliminare a informațiilor personale nu sunt perfecte.

OpenAI recunoaște că filtrarea poate permite trecerea unor detalii private. Asta înseamnă că eliminarea automată a datelor personale nu trebuie interpretată ca o garanție absolută că niciun element identificabil nu poate ajunge la un evaluator uman.

Ce este „Project Lily”

Proiectul menționat în poartă denumirea internă „Project Lily”.

Potrivit informațiilor citate de Mediafax, pentru acest tip de activitate sunt implicați colaboratori recrutați inclusiv prin intermediul companiilor Mercor și Crossing Hurdles.

Rolul lor este să evalueze comportamentul modelelor și modul în care acestea răspund utilizatorilor.

Printre obiective se află identificarea unor tendințe nedorite ale sistemului, inclusiv situațiile în care modelul este excesiv de amabil, încearcă să se „umanizeze” sau dezvoltă alte comportamente considerate nepotrivite.

Evaluarea umană permite identificarea unor probleme pe care verificările automate nu le pot surprinde întotdeauna.

Cât de private sunt, de fapt, conversațiile?

Informația este relevantă mai ales pentru utilizatorii care tratează ChatGPT ca pe un spațiu privat în care pot scrie orice.

Faptul că o conversație este purtată individual cu un chatbot nu înseamnă automat că niciun om nu ar putea ajunge vreodată să o analizeze. În funcție de setările serviciului, tipul conversației și scopul pentru care este utilizată, anumite interacțiuni pot fi supuse unor procese de evaluare sau analiză.

De aceea, utilizatorii ar trebui să evite introducerea în chatboturi a unor informații pe care nu ar dori să ajungă în afara controlului lor. În special parole, date bancare, documente de identitate sau alte informații extrem de sensibile.

Criticii avertizează asupra riscurilor pentru confidențialitate

Criticii procesului atrag atenția asupra faptului că utilizatorii pot introduce în conversațiile cu ChatGPT informații pe care le consideră strict personale.

Cei care folosesc chatbotul pentru a discuta despre probleme personale, situații familiale, activitatea profesională sau alte subiecte private este posibil să nu se gândească la faptul că dialogurile pot fi analizate ulterior de persoane reale.

Problema ridicată nu este neapărat existența evaluării umane în sine. Ci întrebarea privind cât de bine sunt protejate informațiile care apar în aceste conversații.

În cazul în care un sistem automat nu reușește să elimine toate datele identificabile, un evaluator poate ajunge să vadă elemente private pe care utilizatorul nu intenționa să le împărtășească unei alte persoane.

Inteligența artificială are nevoie de oameni, dar și de reguli clare

Paradoxul este că, pentru ca modelele de inteligență artificială să devină mai bune, uneori este nevoie ca răspunsurile lor să fie evaluate de oameni.

În același timp, această intervenție umană creează o problemă legitimă de confidențialitate. Cu cât sistemele sunt folosite pentru conversații mai complexe și mai personale, cu atât mai important devine modul în care sunt protejate datele introduse de utilizatori.

De aici rezultă și o regulă simplă pentru cei care folosesc astfel de servicii. Nu este recomandat să introduci într-un chatbot informații pe care nu ai fi dispus să le expui unui serviciu online.

Faptul că discuția are loc într-o interfață personală nu trebuie confundat cu garanția că fiecare mesaj va rămâne accesibil exclusiv utilizatorului.