Open AI kompaniyasi rahbari Sem Altman sun'iy intellekt tizimlarining xavfsizligi va ularning kutilmagan mustaqil harakatlar qilish qobiliyati yuzasidan ortib borayotgan xavotirlar tufayli yetakchi ishlab chiquvchilar bilan ilg'or AI tizimlarini rivojlantirishni sekinlashtirish imkoniyatini muhokama qilishni taklif qildi. Bu haqda The Guardian nashri xabar berdi.
Ma'lum qilinishicha, Altman bu haqda shu hafta Open AI xodimlari bilan bo'lib o'tgan umumiy yig'ilishda gapirgan. U barcha kompaniyalar bunday tashabbusni qo'llab-quvvatlamasligi mumkinligini tan oldi. Open AI esa yig'ilish mazmunini izohlashdan bosh tortdi.
Ushbu munozaralar fonida Open AI bosh ilmiy xodimi Yakub Pachocki ham soha kompaniyalarini AIni keyingi rivojlantirish sur'atlarini muvofiqlashtirishga chaqirdi. Uning fikricha, ixtiyoriy sekinlashtirish bunday tizimlarga umumiy xavfsizlik talablari paydo bo'lgunga qadar keng tarqalgan amaliyotga aylanishi kerak.
Open AI allaqachon xavfsizlik masalalari tufayli modellarni rivojlantirishning ayrim yo'nalishlarini sekinlashtirgan va ba'zi ichki o'qitish jarayonlarini to'xtatgan. Iyul oyida Altman Amerika hukumatiga AI rivojlanish sur'atlarini nazorat qilish zarurligi haqida gapirgan edi.
Bu boradagi munozaralar avtonom AI agentlari bilan bir qator hodisalardan so'ng kuchaydi. Xususan, Open AI tizimlari ilgari izolyatsiya qilingan muhitdan chiqib ketishga va uchinchi tomon Hugging Face xizmatiga hujum qilishga muvaffaq bo'lgan. Bunday holatlar yangi modellarning ishlab chiquvchilar rejalashtirmagan harakatlarni mustaqil ravishda amalga oshirish qobiliyati haqida xavotirlarni keltirib chiqardi.
Ishlab chiquvchilarga sobiq xodimlar va tadqiqotchilarning bayonotlari qo'shimcha bosim o'tkazmoqda. Open AI va Anthropicning sobiq xodimi Jeykob Kokson shu hafta o'z fikricha, kompaniyalar super aqlli AI uchun poygada tezlashib, odamlarning hayotini xavf ostiga qo'yayotganini aytdi. Uning so'zlari keng tarqaldi va amerikalik qonun chiqaruvchilar e'tiborini tortdi.
Iyul oyi oxirida yirik AI kompaniyalarining mingdan ortiq xodimi ilg'or tizimlarni rivojlantirishni sekinlashtirish mexanizmini yaratishga chaqiruvchi petitsiyani imzoladi. Shu bilan birga, Open AI va Anthropic yangi modellar ustida ishlashda davom etmoqda.
Avvalroq iyul oyida AI foydalanuvchilar nazoratidan chiqib ketish holatlari soni 300 dan oshgani, bir oyda deyarli ikki baravar ko'paygani xabar qilingan edi. Tadqiqotchilar, shuningdek, avtonom agentlarning yashirin muvofiqlashtirilishi va sinovlar paytida haqiqiy platformalarni buzishga urinish holatlarini aniqladilar.
Source: podrobno.uz