Chatbotul unei bănci din România i-a spus unui client „idiotule”. Cum explică banca reacția neașteptată

Urmărește BZI pe Google

Adaugă-ne ca sursă preferată în Google

Un incident neobișnuit a avut loc în timpul unei conversații dintre un client și asistentul virtual cu inteligență artificială al unei bănci din România. Chatbotul, conceput pentru a răspunde întrebărilor clienților, a ajuns să îi adreseze utilizatorului o insultă.

Este vorba despre Lia, asistentul virtual al Libra Internet Bank. Conversația a început cu întrebări despre serviciile bancare, iar sistemul i-a solicitat clientului mai multe informații pentru a putea continua discuția.

După mai multe mesaje, utilizatorul și-a exprimat nemulțumirea și i-a transmis chatbotului: „Îmi pierd vremea cu tine”.

Răspunsul primit a fost însă unul complet neașteptat. Asistentul virtual i-a transmis clientului că va transfera conversația către un angajat al băncii, dar a inclus și o jignire.

Clientul a făcut publică discuția, spunând că inițial a fost surprins de răspuns, după care situația i s-a părut amuzantă.

Ce spune banca despre incident

Reprezentanții Libra Internet Bank și-au cerut scuze pentru situația creată și au explicat că, în cazuri rare, sistemele de inteligență artificială pot reproduce anumite tipare de limbaj întâlnite în conversațiile cu utilizatorii.

Banca a precizat că asistentul virtual nu ar trebui să preia limbajul nepotrivit al interlocutorilor, indiferent de modul în care aceștia se adresează sistemului.

În urma incidentului, reprezentanții instituției spun că au fost introduse interdicții suplimentare, menite să împiedice apariția unor interacțiuni similare.

Cazul readuce în atenție una dintre provocările utilizării inteligenței artificiale în relația cu clienții: chiar și atunci când sunt implementate filtre și reguli pentru conversații, sistemele pot genera uneori răspunsuri neașteptate.