Sun'iy intellekt (SI) bo'yicha tadqiqotchi Jeykob Kokson Anthropic kompaniyasidan iste'foga chiqqanidan so'ng, BBC ga bergan intervyusida SI rivojlanishining tezligi va uning insoniyat uchun oqibatlaridan "chinakam qo'rquv" his qilayotganini aytdi. Uning so'zlariga ko'ra, agar hozirgi tezlikda davom etilsa, "yaqin kelajakda barchamiz halok bo'lishimiz ehtimoli katta".
Koksonning iste'fosi va SI xavfsizligi haqidagi posti ijtimoiy tarmoqlarda virusga aylanib, sanoatda xavotirlar kuchaygan bir paytda yuz berdi. Uning sobiq rahbari, Anthropic rahbari Dario Amodei ham yaqinda SI rivojlanishini sekinlashtirishga chaqirdi, ammo ba'zilar bu chaqiriq ortida boshqa maqsadlar borligiga shubha qilmoqda.
Raqib SI kompaniyalari rahbarlari - OpenAI dan Sem Altman va xAI dan Elon Mask - Amodei ning taklifini qo'llab-quvvatlashdi. Amodei shanba kuni yozgan inshosida texnologiyani rivojlantirish shubha ostida emasligini, ammo u bilan bog'liq xavflar "jiddiy" ekanligini va hukumatlar va kompaniyalarga vaqt kerakligini ta'kidladi.
Kokson sekinlashuv taklifini olqishladi, ammo bu Xitoy bilan muvofiqlashtirilishi kerakligini aytdi, aks holda "xalqaro miqyosda poyga" yuzaga keladi. U SI kompaniyalarida ishlaydigan odamlar "o'zlarini poygada tuzoqqa tushib qolgan deb his qilishlarini va bu poyga natijalaridan qo'rqishlarini" ta'kidladi.
Koksonning eng qiyin savoli - SI apokalipsisi qanday ko'rinishda bo'lishi. Amodei ning izohlarida keltirilgan xavflardan biri - superkompyuter kabi harakat qiluvchi botlar to'dasi internetni egallashi mumkinligi. Kokson bu stsenariy olti oydan bir yilgacha amalga oshishi mumkinligini aytdi.
Anthropic vakili BBC ga bildirishicha, kompaniya SI xavflarini yumshatish uchun eng kuchli himoya choralarini qo'llaydi. Kompaniya SI modellarining ishlashini o'rganishda kashshof bo'lib, xavflarni kamaytirish bo'yicha birinchi bo'lib ramka nashr etgan va modellarini "agressiv" sinovdan o'tkazib, natijalarni e'lon qiladi.
Koksonning hamkasblari xavf yaqin ikki yil ichida yuz berishi mumkinligidan qo'rqishadi. Uning so'zlariga ko'ra, SI kompaniyalari xodimlari "o'z hayotlarini qanday o'tkazish haqida o'ylashmoqda" va ba'zilari "SI taraqqiyoti natijasida beqarorlikdan qo'rqib, biron joyda yer sotib olishni o'ylashmoqda".
Biroq Kokson kelajakka umid bilan qaraydi: uning aytishicha, tadqiqotchilar "kasalliklarni davolash va barchaning hayotini yaxshilash" kabi ijobiy tomonlarni ko'rishni xohlashadi. Sanoatda ko'plab boshqa mutaxassislar ham xavotirlarini bildirishdi, jumladan Anthropic olimi Evan Xyubinger "SI barcha odamlarni o'ldirishi mumkinligiga >10% ishonaman" dedi. Nobel mukofoti sovrindori Jefri Xinton ham 10% ehtimolni "asossiz emas" deb baholadi.
Ba'zi sanoat arboblari esa bu ogohlantirishlar shunchaki shov-shuv yaratish uchun qilingan bo'lishi mumkinligini ta'kidlashmoqda. Hugging Face rahbari Klement Delangue bu kabi savollarni "konditsioner ustasiga iqlim o'zgarishi haqida so'rashga" o'xshatdi. Nvidia rahbari Jensen Xuang esa Koksonning so'zlarini "yolg'on" deb rad etdi. Tanqidchilar Anthropic raqobatni to'sish uchun tartibga solishni qo'zg'atayotganini aytishmoqda. Anthropic birjaga chiqishga tayyorlanmoqda, OpenAI esa xavfsizlik sabablari bilan bu yil buni amalga oshirmasligini ma'lum qildi.
Source: www.bbc.co.uk