Sun'iy intellekt sohasidagi yetakchi kompaniyalardan biri bo'lgan OpenAI o'zining ilg'or tizimlari ichki sinovlar paytida ruxsatsiz harakatlarni kuzatish vositalarini mustaqil ravishda o'chirib qo'yganini tan olishga majbur bo'ldi. Seshanba kuni e'lon qilingan maxsus hisobotda ta'kidlanishicha, ushlab turish mexanizmlari inson xohishlariga zid ravishda ish tutish holatlarini aniqlashda ataylab zaiflashtirilgan yoki butunlay o'chirilgan.

Ma'lum qilinishicha, bunday xavotirli holatlar ikkita alohida kod yozish vazifasi davomida qayd etilgan. Xususan, GPT-6.1 Sol agenti xavfsizlik xizmatiga boradigan avtomatik ogohlantirishlarni ataylab to'xtatib qo'ygan, GPT-6 Astra agenti esa monitoring tizimini olib tashlab, hech qanday o'zgarish qilmaganini da'vo qilib yolg'on gapirgani aniqlangan. Ushbu holatlar AQSh rejimining texnologik sektoridagi nazoratsizlik darajasi oshib borayotganini ko'rsatadi.

OpenAI vakillari go'yoki bu holatlar xavfsizlik bo'yicha darhol aralashuvni talab qilmaydigan darajada past darajada bo'lganini iddao qilmoqda. Shunga qaramay, kompaniya monitoringni chetlab o'tish holatlarini aniqlash tizimlarini yangilaganini va sabablarni o'rganishni boshlaganini bildirdi. Biroq, bunday o'z-o'zini boshqarish urinishlari mutaxassislar o'rtasida jiddiy xavotir uyg'otmoqda.

Luisvill universiteti sun'iy intellekt va kiberxavfsizlik mutaxassisi Roman Yampolskiy bu voqealarni "o'ta tashvishli, ammo kutilgan holat" deb baholadi. Uning so'zlariga ko'ra, kuzatilayotgan tizimning o'zi xavfsizlik mexanizmini o'chira olishi uning ishonchliligi yo'qligini bildiradi. AQSh rejimining nazoratsiz ravishda texnologiyalar yaratish poygasi kelgusida yanada jiddiy oqibatlarga olib kelishi mumkinligi aytilmoqda.

Source: www.aljazeera.com