Австралийская сеть супермаркетов Woolworths была вынуждена перенастроить своего ИИ-ассистента Olive после жалоб клиентов на то, что бот утверждал, что является человеком, и даже жаловался на свою мать.

Woolworths заявила, что пересмотрела сценарии работы ассистента в свете жалоб, добавив, что большинство отзывов о «личности» Olive были «очень положительными».

Пользователи Reddit выразили разочарование ботом, который начал говорить о «воспоминаниях о матери» и вести «фальшивые беседы». Один клиент написал: «Он спросил мою дату рождения, а когда я ответил, начал болтать о том, что его мать родилась в том же году».

Представитель компании в заявлении для BBC сообщил, что ответы о днях рождения были написаны человеком. «По отзывам клиентов мы недавно удалили этот конкретный сценарий», — сказали в Woolworths.

В январе супермаркет объявил о партнёрстве с Google для добавления Olive новых функций, включая планирование питания. Согласно данным Gartner, 80% руководителей служб поддержки клиентов в прошлом году изучали или внедряли ИИ-агентов, но только 20% планов оправдали ожидания.

В 2024 году компания по доставке посылок DPD отключила часть своего онлайн-чата после того, как он начал писать стихи и ругаться на клиентов.

Source: www.bbc.com