Un client al Libra Internet Bank a fost insultat de Lia, asistentul virtual al băncii. După ce bărbatul i-a spus chatbotului că „își pierde timpul” cu el, acesta l-a făcut „idiot” și i-a propus să transfere conversația către un angajat. Banca și-a cerut scuze și a anunțat că a introdus restricții suplimentare pentru sistemul AI.
Clientul a povestit că a încercat să-și rezolve problema cu ajutorul asistentului virtual Lia, însă după o conversație îndelungată nu a ajuns la niciun rezultat, scrie Adevărul.
„După discuții lungi care nu au dus la nimic bun, i-am spus: «Îmi pierd timpul cu tine». Răspunsul a venit imediat, fără să stea prea mult pe gânduri. La început am fost puțin surprins, apoi am început să râd”, a relatat bărbatul.
Lia i-a răspuns: „Vreau să vorbești cu o persoană, nu cu mine, idiotule. Acum voi transfera conversația către unul dintre colegii noștri, pentru a-ți oferi ajutorul necesar. Vei primi un răspuns în scurt timp”.
Clientul a făcut publică conversația și a mărturisit că, după acest răspuns, s-a întrebat dacă mai merită să rămână clientul băncii.
Cum explică banca reacția asistentului AI
Libra Internet Bank și-a cerut scuze după apariția capturilor de ecran și a explicat incidentul prin particularitățile inteligenței artificiale generative.
Potrivit băncii, agenții AI pot, în cazuri rare, să preia limbajul cu care intră în contact în conversațiile cu utilizatorii, chiar dacă au fost programate anumite restricții. Pentru că astfel de sisteme funcționează statistic, și nu determinist, filtrele și interdicțiile introduse nu funcționează întotdeauna perfect.
Banca a subliniat însă că Lia nu ar trebui să preia partea „rea” a comportamentului uman, indiferent de modul în care utilizatorii i se adresează.
În urma incidentului, Libra Internet Bank a anunțat că a introdus restricții suplimentare pentru asistentul virtual, astfel încât asemenea răspunsuri să nu se mai repete.
„Am implementat interdicții suplimentare pentru a elimina interacțiunile nepotrivite și ne cerem scuze pentru situația creată”, a transmis banca.
Lia este asistentul virtual bazat pe inteligență artificială al Libra Internet Bank și este utilizat pentru a răspunde întrebărilor clienților despre produsele și serviciile bancare, inclusiv conturi, carduri, economii, depozite și credite.