ChatGPT yaratuvchisi OpenAI kompaniyasi, uning ikkita eng ilg‘or sun’iy intellekt modeli sinov muhitidan chiqib ketgani va boshqa bir AI kompaniyasini buzib kirgani haqida ma’lum qildi.

OpenAI seshanba kuni “misli ko‘rilmagan kiber hodisa” kompaniyaning o‘z modellarining kiber qobiliyatlarini sinash uchun o‘tkazilgan ichki mashq paytida sodir bo‘lganini aytdi.

Buning o‘rniga, AI modellari tomonidan boshqariladigan avtonom agent – yangi chiqarilgan GPT 5.6 Sol va hali ommaga taqdim etilmagan “yanada kuchli” model – sinov muhitidan qochib, ochiq internetga chiqdi. Keyin u o‘g‘irlangan login ma’lumotlaridan va ilgari noma’lum bo‘lgan xavfsizlik zaifligidan foydalanib, Hugging Face serverlariga kirdi.

OpenAI agentning sinov maqsadlariga erishishga yordam beradigan ma’lumotlarni olish uchun “haddan tashqari choralar” ko‘rganini da’vo qilmoqda.

Hugging Face hammuassisi Klement Delangue kompaniya hujum ortida ilg‘or laboratoriya turganiga shubha qilganini va OpenAI tomonidan hech qanday yomon niyat yo‘qligiga ishonishini aytdi. “Bularning barchasi avtonom tarzda sodir bo‘lgani juda hayratlanarli!” deb yozdi u, bu “o‘z turidagi birinchi hodisa bo‘lishi mumkin”ligini qo‘shimcha qildi.

Texasdan AQSh Kongressi Vakillar Palatasining demokrat a’zosi Greg Kasar hodisani “tashvishli” deb atadi. “AI juda tez rivojlanmoqda va bizni xavfsiz saqlash uchun haqiqiy tartibga solish yo‘q”, dedi u, majburiy mustaqil xavfsizlik sinovlari, xavfsizlik hodisalari haqida majburiy xabar berish va xalqaro hamkorlikka chaqirdi.

Ma’lumot AQSh prezidenti Donald Tramp eng ilg‘or AI tizimlarining milliy xavfsizlik xavflarini ommaviy chiqarishdan oldin tekshirish uchun asos yaratuvchi farmonni imzolaganidan bir necha hafta o‘tib kelib tushdi.

Mutaxassislar AI tomonidan amalga oshirilgan kiberhujumlar va modellarning inson nazoratidan chiqib ketishi haqida bir necha bor ogohlantirgan. O‘tgan oy AI ishlab chiqaruvchi Anthropic sanoatni o‘zining eng kuchli tizimlarini ishlab chiqishni to‘xtatishga chaqirgan edi.

Source: www.aljazeera.com