Клиент румынского Libra Internet Bank получил неожиданное оскорбление от виртуального ассистента банка Lia. После того как мужчина написал чат-боту, что «теряет с ним время», тот назвал его «идиотом» и предложил перевести разговор на сотрудника банка. Libra Internet Bank принес извинения и заявил, что после инцидента для ИИ ввели дополнительные ограничения.
Клиент рассказал, что пытался решить свой вопрос с помощью виртуального ассистента Lia, однако длительная переписка ни к чему не привела, пишет Adevărul.
«После долгих разговоров, которые не привели ни к чему хорошему, я сказал ему: „Я теряю с тобой время“. Ответ последовал сразу, без долгих раздумий. Сначала я немного удивился, а потом начал смеяться», — рассказал мужчина.
В ответ Lia написала: «Я хочу, чтобы ты разговаривал с человеком, а не со мной, идиот. Сейчас я переведу разговор на одного из наших коллег, чтобы предоставить тебе необходимую помощь. В ближайшее время ты получишь ответ».
Клиент опубликовал переписку и признался, что после такого ответа задумался, стоит ли ему оставаться клиентом банка.
В банке объяснили поведение ИИ
Libra Internet Bank после публикации переписки принес извинения и объяснил произошедшее особенностями работы генеративного искусственного интеллекта.
По версии банка, ИИ-агенты, несмотря на установленные ограничения, в редких случаях могут копировать язык, с которым сталкиваются во время общения с пользователями. Поскольку такие системы работают статистически, а не детерминированно, установленные запреты могут срабатывать не всегда.
При этом в банке подчеркнули, что Lia не должна перенимать «плохую» сторону человеческого поведения независимо от того, в какой манере с ней общается пользователь.
После инцидента Libra Internet Bank сообщил о введении дополнительных ограничений для виртуального ассистента, которые должны исключить подобные ответы в будущем.
«Мы внедрили дополнительные запреты, чтобы исключить неподобающие взаимодействия, и приносим извинения за произошедшую ситуацию», — заявили в банке.
Lia — виртуальный ассистент Libra Internet Bank на базе искусственного интеллекта. Он используется для ответов на вопросы клиентов о банковских продуктах и услугах, включая счета, карты, сбережения, депозиты и кредиты.