Sun'iy intellekt (SI) insoniyat uchun mavjudlik xavfi tug'dirishi mumkinmi? Ba'zi yetakchi tadqiqotchilar tartibga solinmagan SI superintellekti poygasidan ogohlantirmoqda.
SI ning insoniyat uchun mavjudlik xavflari haqidagi dramatik ogohlantirishlar yangilik emas. 1940-yillarda taniqli olim va ilmiy fantastika muallifi Isaak Azimov aqlli mashinalarning mumkin bo'lgan xavflari va kutilmagan oqibatlarini o'rgangan. 1991-yilda Gollivudning "Terminator 2" blokbasteri 2029-yil distopiyasini tasvirlab berdi, unda nazoratdan chiqqan harbiy SI Skynet qotil robotlarni insoniyatga qarshi urushga yo'naltiradi. Agar SI sohasidagi eng yirik nomlarning ogohlantirishlariga ishonish kerak bo'lsa, shunga o'xshash stsenariy 2029-yildan oldin ham haqiqatga aylanishi mumkin.
"SI yaratayotgan odamlar bu o'n yillikning oxirigacha barchamizni o'ldirishi mumkinligiga chin dildan ishonishadi", deb yozgan SI tadqiqotchisi Jeykob Kokson o'tgan hafta X tarmog'ida, bu qanday sodir bo'lishi mumkinligini aniq tushuntirmasdan. "Boshqa hech qanday inson faoliyati bunday xavf darajasini tug'dirmaydi", deya qo'shimcha qildi u. Kokson, shuningdek, AQShda joylashgan Anthropic SI kompaniyasidagi ishidan voz kechganini, chunki SI kompaniyalari o'rtasida tobora yaxshiroq, o'z-o'zini takomillashtiruvchi superintellektni yaratish uchun mas'uliyatsiz poyga deb hisoblagan.
U algoritmlar o'zlarining manba kodini mustaqil ravishda tahlil qilish va yaxshilashni boshlashi mumkinligidan ogohlantirdi, bu esa rivojlanish tsikllarini bir necha oydan bir necha daqiqagacha qisqartirishi va ularni boshqarib bo'lmaydigan holga keltirishi mumkin. Kokson yolg'iz ovoz emas. Nobel mukofoti sovrindori fizik Jeffri Xinton, ko'pincha "SI cho'qintirgan otasi" deb ataladi, yillar davomida sun'iy superintellektning jiddiy oqibatlari haqida ogohlantirib keladi. 2023-yilda u o'zi kashshof bo'lgan SI texnologiyalarining xavflari haqida ochiq ogohlantirish uchun Google'dagi ishidan ketdi. Sun'iy neyron tarmoqlari va chuqur o'rganish kashshofi Yoshua Bengio ham hozirgi rivojlanishdan xavotir bildirib, hukumat tomonidan tartibga solinishini talab qildi.
2026-yil iyul oyida yetakchi SI kompaniyalarining 1000 dan ortiq xodimlari ochiq xatda "superintellekt" uchun poyga sezilarli darajada qattiqroq tartibga solinmasa, nazoratni yo'qotish xavfi yaqinlashayotgani haqida ogohlantirdi. O'sib borayotgan ogohlantirishlarga qaramay, AQSh prezidenti Donald Tramp ma'muriyati SI siyosatini tartibga solish to'siqlarini minimallashtirish va SI rivojlanishini tezlashtirishga aniq o'zgartirdi. Jeykob Kokson o'zining X postida bu siyosatning oqibatlarini bilvosita tanqid qildi: "OpenAI'da ko'pchilik tsivilizatsiya xavflarini chuqur o'zlashtirmagan. Anthropic'da xavflar yaxshi tushuniladi, ammo ular birinchi bo'lib yetib borish poygasiga tushib qolganlar - ular boshqa hech kim mas'uliyat bilan harakat qilmaydi deb hisoblashadi, shuning uchun xavfga qaramay, buni o'zlari qilishlari kerak."
2026-yil boshida OpenAI'dan Anthropic'ga o'tgan Kokson ikkala korporativ madaniyatni yaxshi biladi. The Wall Street Journal'ga bergan intervyusida u "eng tajovuzkor stsenariylar" ostida ishlar 2027-yil oxirida nazoratdan chiqib ketishi mumkinligini aytdi. Anthropic bosh direktori Dario Amodei, o'z navbatida, hozirda xavflarni hal qilish va SI dan har qanday noto'g'ri foydalanishning oldini olish uchun vaqt ajratish maqsadida sanoat miqyosida muvofiqlashtirilgan sekinlashuvni talab qilmoqda. Dam olish kunlari X tarmog'ida e'lon qilingan uzun inshoda u olti oydan 12 oygacha SI agentlari "butun internetni egallashga qodir" bo'lishi va tegishli himoya choralarisiz "yuzlab milliard dollar zarar" keltirishi mumkinligini yozgan. xAI ni boshqaradigan Elon Mask ham, OpenAI bosh direktori Sem Altman ham Amodei bilan rozi ekanliklarini aytishdi.
So'nggi yillarda ko'plab ekspertlar SI ning jadal rivojlanishidan, xususan, sun'iy umumiy intellektning rivojlanishidan xavotir bildirishdi, bu nafaqat individual vazifalarni hal qiladigan, balki deyarli barcha sohalarda inson intellektual qobiliyatlariga mos keladigan yoki undan oshib ketadigan tizimlarni nazarda tutadi. Murakkab SI modellari, masalan, maqsadlarni inson niyatlaridan farq qiladigan yo'llar bilan amalga oshirishi mumkin, bu SI xavfsizlik tadqiqotchilari "moslashtirish muammosi" deb ataydigan narsadir. Bundan tashqari, hatto ishlab chiquvchilar ham SI muayyan qarorlarni qanday qabul qilishini har doim ham to'liq tushuna olmaydilar. Shuning uchun Koksonning sobiq hamkasbi Evan Xubinger uning himoyasiga kelgani ajablanarli emas. "Jeykob bu erda haq - biz haqiqatan ham SI barcha odamlarni o'ldirishi mumkinligiga chin dildan ishonamiz! Shaxsan men buni keyingi o'n yillikda >10% deb hisoblayman", deb yozgan Xubinger X tarmog'ida, o'zi Anthropic'da moslashtirish stress testlari bo'yicha guruh rahbari. O'z postida Xubinger Anthropic hali moslashtirish muammosiga yechim topmaganini aniq ko'rsatdi va SI modeli o'chirilishiga qarshilik ko'rsatishi mumkinligidan ogohlantirdi, chunki bu uning dasturlashtirilgan maqsadiga erishish qobiliyatini cheklaydi.
Boshqa SI ekspertlari esa bunday qiyomat stsenariylarini juda kam ehtimol deb hisoblashadi. "SI qiyomatgo'ylari" ning eng ko'zga ko'ringan tanqidchilaridan biri Meta bosh olimi Yann LeKun. 2024-yil oktyabr oyida u bunday xavotirlarni "butunlay bema'nilik" deb rad etdi. Yana boshqa ekspertlar SI tizimlarini ishlab chiqish uchun ulkan hisoblash quvvati, energiya, ma'lumotlar va infratuzilma talab qilinishini ta'kidlashadi. Ular SI modeli shunchaki dunyoni egallab ololmaydi, chunki u insonlar tomonidan boshqariladigan serverlar, elektr tarmoqlari, aloqa tizimlari va jismoniy resurslarga tayanishi kerakligini ta'kidlashadi. Aslida, ko'plab ekspertlar qisqa muddatli xavflarni insoniyatning yo'q bo'lib ketishida emas, balki superintellektsiz ham mavjud bo'lgan SI tizimlarining ko'plab bilvosita oqibatlarida ko'rishadi. Bularga misli ko'rilmagan miqyosdagi dezinformatsiya kampaniyalari va demokratik jarayonlarning tegishli manipulyatsiyasi, ommaviy kuzatuvning kengayishi va ko'plab sohalarda ish o'rinlarining yo'qolishi kiradi.
O'tgan hafta Anthropic o'zining Claude SI modellaridan foydalanuvchilar tomonidan biologik qurol ishlab chiqishni qo'llab-quvvatlashi mumkin bo'lgan tadqiqotlar uchun suiiste'mol qilishga bir necha urinishlar bo'lganini ma'lum qildi. Kompaniya tegishli akkauntlarni bloklaganini aytdi. Avgust oyida Meta, Anthropic va OpenAI o'zlarining SI tizimlari beixtiyor avtonom xakerlik harakatlarini amalga oshirganini e'lon qilib, shov-shuvga sabab bo'ldi. Sinov paytida qo'shimcha SI xakerlik hujumlari haqidagi xabarlardan so'ng, hatto AQShning eng ilg'or SI laboratoriyalari ham texnologiya rivojlanishini sekinlashtirishga tayyorligini bildirmoqda. Ushbu maqola dastlab nemis tilida nashr etilgan.
Source: www.dw.com