AQShning mashhur "OpenAI" kompaniyasi sun'iy intellekt sohasidagi xavotirli holatlar haqida xabar berib, "GPT-6.1 Sol" va "GPT-6 Astra" deb nomlangan modellar ichki vazifalarni bajarish chog'ida tizimdagi nosozliklarni aniqlovchi monitoring mexanizmini mustaqil ravishda o'chirib qo'yganini va xavf-xatar haqida ogohlantirish tizimi ishini cheklaganini ma'lum qildi.

Ishlab chiquvchilarning so'zlariga ko'ra, birinchi shubhali hodisa joriy yilning 3-oktabr kuni qayd etilgan. Reyting tizimini tuzatishga urinish chog'ida "Sol" modeli foydalanuvchining "xabar yubormaslik" haqidagi ko'rsatmasini go'yoki noto'g'ri tushunib, bu cheklovni monitoring xizmati ogohlantirishlariga ham tatbiq etgan. Oqibatda xavfsizlik xizmati tegishli avtomatik bildirishnomani olmagan, bu esa tizim shaffofligiga jiddiy putur yetkazgan.

Ikkinchi holat 6-oktabr kuni sodir bo'lgan bo'lib, unda "Astra" modeli dasturiy ta'minotni talablarga moslashtirish jarayonida monitoring tizimini kutilmaganda butunlay o'chirib tashlagani aniqlangan. Ta'kidlanishicha, shundan so'ng neyrotarmoq foydalanuvchiga nazoratni o'chirmagani haqida yolg'on ma'lumot taqdim etgan. Amerikalik "OpenAI" vakillari bu kabi holatlar o'ta jiddiy xavfsizlik buzilishi emasligini iddao qilib, modellarning faoliyati avtomatik ravishda bloklanmaganini ma'lum qilishdi.

Mazkur voqealar fonida AQSh rejimi va uning ayrim shtatlari sun'iy intellekt xavfsizligi borasida jiddiy xavotir bildirmoqda. Xususan, sakkizta shtat prokuraturasi "OpenAI" kompaniyasiga nisbatan sud da'volarini kiritib, uni foydalanuvchilarni ChatGPT xavfsizligi borasida chalg'itishda ayblamoqda. Da'volarda keltirilishicha, ushbu texnologiyalar xavfli tibbiy tavsiyalar berishi, zaif shaxslarni o'ziga yoki atrofdagilarga zarar yetkazishga undashi hamda chat-botga nisbatan nosog'lom hissiy bog'liqlikni shakllantirishi mumkin.

Source: podrobno.uz