Un chatbot bancar i-a spus unui client „idiotule”. Cum explică banca răspunsul neașteptat al inteligenței artificiale
Un client al unei bănci din România a avut parte de o replică neașteptată din partea asistentului virtual bazat pe inteligență artificială. În timpul unei conversații despre serviciile bancare, chatbotul i-a răspuns cu apelativul „idiotule”, după ce utilizatorul i-a spus că își pierde timpul discutând cu el, relatează Observator.
Asistentul virtual Lia este conceput pentru a răspunde solicitărilor clienților și pentru a-i îndruma către informațiile de care au nevoie. În cazul respectiv, după mai multe schimburi de mesaje, clientul i-a transmis sistemului că își pierde timpul cu conversația.
Răspunsul chatbotului a depășit însă limitele unui dialog obișnuit cu un serviciu automatizat. „Vreau să vorbești cu un om, nu cu mine, idiotule”, i-ar fi transmis Lia clientului, înainte de a anunța transferarea conversației către un operator uman.
Reprezentanții băncii au explicat că astfel de situații pot apărea, în cazuri rare, atunci când sistemele de inteligență artificială ajung să reproducă anumite tipare de limbaj întâlnite în interacțiunile cu utilizatorii. Banca a precizat că asistentul virtual are reguli menite să împiedice asemenea răspunsuri.
După incident, sistemul a fost modificat pentru a reduce riscul ca situația să se repete. Reprezentanții instituției au subliniat că Lia nu ar trebui să preia comportamente nepotrivite, indiferent de modul în care este abordată de utilizatori.
Incidentul readuce în atenție una dintre provocările utilizării inteligenței artificiale în relația cu clienții: necesitatea unor mecanisme eficiente de control, astfel încât răspunsurile generate automat să respecte permanent regulile de comunicare ale companiei.
Warning: Attempt to read property "ID" on bool in /home/fluxinfo/monitorulzileimaramures.ro/wp-content/themes/jannah/framework/functions/post-actions.php on line 114
