Австралийская сеть супермаркетов Woolworths перенастроила своего ИИ-ассистента по имени Olive после жалоб клиентов на то, что бот утверждал, что является человеком, и даже жаловался на свою мать.

Пользователи Reddit выразили разочарование, когда бот начал говорить о "воспоминаниях о матери" и вести "фальшивые беседы". Woolworths заявила, что большинство отзывов о "личности" Olive были "очень положительными", но в связи с жалобами скрипты были пересмотрены.

Один клиент написал на Reddit: "Он спросил мою дату рождения, и когда я ответил, начал болтать о том, что его мать родилась в том же году". Другой пользователь назвал Olive "неприятным", а её светские беседы — "раздражающими".

Представитель Woolworths в заявлении для BBC сообщил, что ответы о днях рождения были написаны человеком несколько лет назад для более личного общения с клиентами. По результатам обращений клиентов этот скрипт был удалён.

Компания отметила, что с 2018 года, когда Olive начала работу, отзывы в основном были положительными. В январе супермаркет объявил о сотрудничестве с Google для добавления новых функций виртуальному ассистенту.

Этот случай иллюстрирует проблемы, с которыми сталкиваются компании при внедрении ИИ в обслуживание клиентов. В 2024 году служба доставки DPD отключила часть своего чат-бота после того, как он начал сочинять стихи и ругаться с клиентами.

Source: www.bbc.com