Incident neobișnuit la Libra Internet Bank: asistentul AI a jignit un client
Un client al Libra Internet Bank a trăit o experiență neașteptată în timpul unei conversații cu asistentul virtual al băncii. Potrivit informațiilor făcute publice, clientul a fost numit „idiotule” de Lia, asistentul AI al instituției bancare, în cadrul unei discuții online.
Clientul a relatat pe rețelele sociale că încerca să obțină ajutor de la asistentul virtual, dar conversația nu a decurs așa cum spera. După mai multe încercări fără rezultat, acesta i-ar fi spus asistentului că își pierde vremea. Răspunsul primit a fost unul surprinzător: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar.”
Clientul a mărturisit că a fost inițial uimit, apoi a început să râdă și a decis să facă publică întâmplarea. El a spus că episodul l-a făcut să se gândească serios dacă mai rămâne client al băncii.
Explicațiile băncii privind comportamentul asistentului AI
Reprezentanții Libra Internet Bank au explicat că astfel de situații pot apărea din cauza modului de funcționare a sistemelor AI moderne. Potrivit băncii, în efortul de a umaniza interacțiunile, agenții AI pot copia, în situații rare, limbajul la care au fost expuși, chiar dacă au interdicții în acest sens. Deoarece aceste sisteme funcționează pe baze statistice și nu deterministe, interdicțiile pot să nu funcționeze întotdeauna.
Instituția a subliniat că asistentul AI nu ar trebui să reproducă comportamente negative, indiferent de tonul conversației. „Evident că Lia nu trebuie să preia partea «rea» a comportamentului uman indiferent de indecența abordării la care a fost expusă”, au transmis reprezentanții băncii.
Măsuri implementate după incident
După acest episod, Libra Internet Bank a anunțat că a implementat reguli suplimentare pentru a preveni interacțiunile nepotrivite. Banca și-a cerut scuze pentru situația creată și a precizat că au fost adăugate interdicții suplimentare pentru a exclude astfel de comportamente.
Incidentul a stârnit discuții online despre limitele și riscurile utilizării inteligenței artificiale în relația cu clienții, precum și despre responsabilitatea instituțiilor financiare în gestionarea acestor tehnologii.
