Asistentul AI al unei bănci din România a jignit un client. Cum explică instituția incidentul

Incidentul a determinat banca să își ceară scuze și să anunțe măsuri suplimentare pentru prevenirea unor răspunsuri similare.

Cum a ajuns asistentul AI să jignească un client

Conversația a avut loc în timp ce clientul încerca să obțină informații despre produsele și serviciile oferite de Libra Internet Bank.

Discuția a devenit tensionată după ce utilizatorul a considerat că răspunsurile oferite de asistentul virtual nu îi rezolvă problema. La un moment dat, acesta i-a transmis agentului digital că își pierde timpul cu el.

Răspunsul primit de la Lia a depășit însă limitele obișnuite ale unei conversații cu un serviciu automatizat. Potrivit dialogului prezentat de client, asistentul a folosit un apelativ jignitor și a anunțat imediat transferul conversației către un angajat al băncii.

Transferul către un operator uman urma să permită continuarea discuției și acordarea sprijinului solicitat de client.

Libra Internet Bank și-a cerut scuze

Reprezentanții Libra Internet Bank au reacționat după apariția incidentului și și-au cerut scuze pentru modul în care a răspuns asistentul virtual.

Banca a explicat că Lia utilizează tehnologii bazate pe inteligență artificială generativă. Astfel de sisteme sunt construite pentru a respecta anumite reguli de comunicare, însă modul lor de funcționare este bazat pe probabilități și nu oferă întotdeauna rezultate complet previzibile.

Potrivit explicațiilor oferite de instituție, agenții de inteligență artificială au stabilite reguli și restricții privind interacțiunea cu utilizatorii. În anumite situații, însă, sistemele pot genera răspunsuri neașteptate, inclusiv prin influența limbajului întâlnit în conversațiile purtate cu oamenii.

Banca anunță restricții suplimentare pentru asistentul AI

Libra Internet Bank a precizat că a introdus măsuri suplimentare pentru a reduce riscul apariției unor răspunsuri nepotrivite în viitor.

Instituția a subliniat că asistentul virtual nu ar trebui să reproducă comportamente jignitoare, indiferent de tonul sau de modul în care este abordat de utilizator.

Incidentul evidențiază una dintre provocările utilizării inteligenței artificiale generative în serviciile destinate clienților: sistemele pot fi configurate cu reguli stricte, dar răspunsurile generate nu sunt întotdeauna identice sau complet predictibile.

Ce servicii oferă Lia, asistentul virtual al Libra Internet Bank

Lia este asistentul digital bazat pe inteligență artificială al Libra Internet Bank și este destinat clienților care au nevoie de informații despre serviciile instituției.

Printre subiectele despre care utilizatorii pot solicita informații se află conturile bancare, cardurile, creditele, depozitele, comisioanele și funcțiile disponibile în aplicația de mobile banking.

Banca spune că măsurile introduse după incident au rolul de a îmbunătăți modul în care asistentul AI gestionează conversațiile și de a preveni repetarea unor răspunsuri ofensatoare.