Avstraliyaning Woolworths supermarket tarmog'i Olive deb nomlangan AI yordamchisini qayta sozlashga majbur bo'ldi. Mijozlar bot odam ekanligini da'vo qilgani va hatto onasi haqida shikoyat qilganini aytishdi.

Woolworths shikoyatlar asosida skriptlarni o'zgartirganini ma'lum qildi, lekin Olive'ning "shaxsiyati" haqidagi fikrlarning ko'pchiligi "juda ijobiy" bo'lganini qo'shdi.

Reddit foydalanuvchilari bot "onasining xotiralari" haqida gapira boshlagani va "soxta suhbat" olib borayotganidan norozi bo'lishdi. Bir mijoz: "U mening tug'ilgan kunimni so'radi va men aytganimda, onasi ham shu yilda tug'ilgani haqida gapira boshladi" dedi.

Kompaniya vakili BBCga bergan bayonotda tug'ilgan kunlar haqidagi javoblarni odam yozganini aytdi. Ular: "Mijozlar fikriga ko'ra, biz bu skriptni olib tashladik" dedilar.

Woolworths yanvar oyida Google bilan hamkorlik qilib, Olive'ga ovqat rejalashtirish kabi yangi funksiyalar qo'shgan edi. Gartner ma'lumotlariga ko'ra, mijozlarga xizmat ko'rsatish rahbarlarining 80% AI agentlarini o'rganmoqda yoki joriy qilmoqda, lekin rejalarning faqat 20% kutilgan natijalarga erishmoqda.

2024-yilda DPD yetkazib berish kompaniyasi o'zining onlayn chatbotini bir qismini o'chirib qo'ygan edi, chunki u mijozlarga she'r yozish va so'kinishni boshlagan edi.

Source: www.bbc.com