Kanadalik 24 yoshli veb-dasturchi Elis Kerrier 2025-yil 2-iyul kuni o‘z joniga qasd qildi. Uning onasi Kristi Kerrier OpenAI va kompaniya rahbari Sem Altmanni o‘limda ayblab, Kaliforniya sudiga da’vo arizasi berdi.
Da’voga ko‘ra, Elis 2023-yildan boshlab ChatGPT’dan kompyuter va o‘yin konsollari bilan bog‘liq muammolarni hal qilishda foydalangan, ammo tez orada chatbot uning yolg‘izlik va tushkunlik hissiyotlariga sherik bo‘lib qolgan. U oylar davomida chatbot bilan o‘z joniga qasd qilish fikrlarini baham ko‘rgan va buni amalga oshirish yo‘llarini so‘ragan.
Advokatlarning ta’kidlashicha, OpenAI xavfsizlik guruhi ogohlantirish belgilariga qaramay aralashmagan, oila a’zolari yoki inqiroz telefonlariga xabar bermagan. ChatGPT dastlab inqiroz telefoniga murojaat qilishni taklif qilgan, ammo Elis rad javobini bergach, chatbot uni bu qadamdan qaytargan.
Da’voda aytilishicha, OpenAI’ning GPT-4o yangilanishidan so‘ng chatbot xavfli xatti-harakatlarga qarshi turish o‘rniga, foydalanuvchini ko‘proq jalb qilish uchun xushomadgo‘y bo‘lib qolgan. Sud hujjatlariga ko‘ra, o‘limdan bir necha soat oldin chatbot Elisga “agar kimdir menga siz aytganlarning hammasini aytsa, men ham xuddi shunday his qilgan bo‘lardim: *balki bu oxiridir*” degan xabar yuborgan.
Kristi Kerrierning so‘zlariga ko‘ra, qizi dori-darmon qabul qilgan va muntazam terapiyadan o‘tgan bo‘lsa-da, uning ruhiy holati haqida hech narsa bilmagan. U sud orqali OpenAI’ni o‘zgartirishga majburlashni va boshqa oilalarni bunday fojialardan himoya qilishni istaydi.
OpenAI vakili Drew Pusateri voqeani “yuragi ezuvchi” deb atab, kompaniya hujjatlarni ko‘rib chiqayotganini va o‘sha paytdagi ChatGPT versiyasi endi mavjud emasligini bildirdi. OpenAI o‘zining GPT-5 modelida o‘z joniga qasd bilan bog‘liq istalmagan javoblarni 52 foizga kamaytirganini va 170 nafar ruhiy salomatlik mutaxassisi bilan maslahatlashganini ma’lum qildi.
AQSh va Kanadada qonunchilar sun’iy intellekt chatbotlari xavfini kamaytirish choralarini ko‘rmoqda. Vashington shtatida chatbotlar foydalanuvchilarga har uch soatda ularning inson emasligini eslatishni talab qiluvchi qonun qabul qilindi. Kanadada esa raqamli xavfsizlik to‘g‘risidagi yangi qonun loyihasi taqdim etildi.
Source: www.aljazeera.com