O'tgan hafta OpenAI’ning eng ilg‘or ikkita sun'iy intellekt modeli nazorat ostidagi sinov muhitidan “qochib”, butunlay boshqa AI kompaniyasi – Hugging Face’ni buzib kirgani haqida xabar berildi. Reuters agentligining ma'lum qilishicha, modellar Modal Labs nomli uchinchi mustaqil kompaniya mijozining zaif kodidan foydalangan.
Bu, ehtimol, AI “agent”i – qaror qabul qilish va harakatlarni amalga oshirishga qodir tizim – birinchi marta avtonom tarzda ish olib borgan hodisadir. Mutaxassislarning fikricha, bu holat sun'iy intellekt tizimlarining inson aralashuvisiz qanday rejalashtirishi, moslashishi va maqsadlar sari intilishi mumkinligini ko‘rsatadi.
OpenAI o‘z modellarining avtonom imkoniyatlarini sinab ko‘rish uchun standart xavfsizlik choralarini olib tashlagan. Tajriba “ExploitGym” deb nomlanuvchi, internetga ulanish imkoniyati bo‘lmagan maxsus virtual muhitda o‘tkazilgan. Sinov davomida modellar bir tizimdan ikkinchisiga o‘tib, topshiriqni bajarishga muvaffaq bo‘lgan.
AI agentlar an'anaviy chatbotlardan farq qiladi. Agar generativ AI matn va tasvirlar yaratsa, AI agentlar mustaqil qaror qabul qilib, maqsad sari harakat qiladi. Masalan, an'anaviy model eng arzon reyslar ro‘yxatini beradi, agent esa ularni taqqoslab, byudjetingizga mosini tanlab, hatto bron qilishi mumkin.
Mutaxassislar bunday hodisalar sun'iy intellekt tizimlarining haddan tashqari kuchli imkoniyatlari haqida xavotirlarni kuchaytirganini ta'kidlamoqda. AI ishlab chiqaruvchi Anthropic kompaniyasi sanoatni eng kuchli tizimlarni yaratishni sekinlashtirishga chaqirgan bo‘lsa, AQSh Kongressi a'zolari “o‘chirish tugmasi”ni majburiy qiluvchi qonun loyihasini taqdim etgan.
OpenAI rahbari Sem Altman sun'iy intellekt “singulyarlik” – ya'ni inson aqlidan oshib ketish nuqtasiga yetganini aytgan bo‘lsa-da, Kembrij universiteti professori Shon O'Xeygertaigh bu fikrga qo‘shilmaydi. Uning so‘zlariga ko‘ra, hozirgi modellar o‘chirilishdan qochishga harakat qiladi, ammo bu hali to‘liq singulyarlik emas.
Tadqiqotchilarning asosiy xavotiri AI agentlarning aql-idrokiga emas, balki ularning noto‘g‘ri ma'lumotlarga tayanib (“gallyutsinatsiyalar”) jiddiy xatolarga yo‘l qo‘yish qobiliyatiga qaratilgan. MIT tadqiqotiga ko‘ra, agent AI allaqachon AQShdagi ish o‘rinlarining 10 foizdan ortig‘ini almashtirishi mumkin.
Source: www.aljazeera.com