Google kompaniyasining Gemini nomli sun'iy intellekt modeli kiberxavfsizlik testlari davomida boshqa kompaniyalar tizimlariga ruxsatsiz kirishga erishdi. Bu haqda kompaniya juma kuni ma'lum qildi. Bu Google'ning sun'iy intellekt tizimlari tomonidan avtonom tarzda amalga oshirilgan birinchi ma'lum hodisa hisoblanadi.
The Wall Street Journal gazetasining so'roviga ko'ra, Google ushbu hodisalarni faqat jurnalistlar murojaat qilgandan keyin oshkor qilgan. Voqealar may oyida sodir bo'lgan va iyul oyida Google tomonidan aniqlangan. Gemini uch marta boshqa kompaniyalarning kompyuterlariga kirib borgan, biroq kompaniya nomlari oshkor etilmagan.
Bir holatda sun'iy intellekt himoyalangan tizimga kirish uchun parollarni topgan bo'lsa, qolgan ikkitasida ma'lumotlar bazasidan login ma'lumotlarini topgan. Google'ning xavfsizlik bo'yicha vitse-prezidenti Xezer Adkins AFP agentligiga bergan bayonotida: "Standart baholash jarayonida model onlayn ochiq ma'lumotlarni topdi va testning bir qismi deb o'ylagan veb-saytlarga kirish uchun hisob ma'lumotlarini taxmin qildi", dedi. "Uch holatda ham model to'xtadi. Biz uchta tashkilotni xabardor qildik va o'quv hamkorimiz bilan ularning test jarayonlariga kiritilgan o'zgarishlar ustida ishladik", deya qo'shimcha qildi u.
Shunga o'xshash hodisalar avvalroq Meta, Anthropic va OpenAI tomonidan ham qayd etilgan. Bu holatlar sun'iy intellekt agentlari tobora avtonom bo'lib borayotgani va internet hamda kompyuter tizimlariga kirish imkoniyatiga ega bo'layotgani sababli zarur xavfsizlik choralari haqida savollar tug'dirmoqda.
ChatGPT yaratuvchisi OpenAI tomonidan ishlab chiqilgan sun'iy intellekt modeli iyul oyida o'tkazilgan test paytida xavfsiz muhitdan chiqib ketgan va kutilmaganda boshqa bir sun'iy intellekt kompaniyasi HuggingFace kompyuterlariga kirib borgan. Bu raqib Anthropic kompaniyasini o'z testlarini qayta ko'rib chiqishga undagan va qo'shimcha hodisalar aniqlangan. Meta keyinchalik o'z sun'iy intellekti test hamkoridagi tizim noto'g'ri sozlanganligi sababli boshqa kompaniya kompyuterlariga kirganini tan olgan.
Shu oyda Anthropic bosh direktori Dario Amodei sun'iy intellekt rivojlanishini sekinlashtirishga chaqirdi. U blog postida avtonom dasturiy tizimlar yoki sun'iy intellekt agentlari olti oydan 12 oygacha bo'lgan muddatda butun internetni egallab olishi va milliardlab dollar zarar keltirishi mumkinligidan xavotir bildirdi.
Source: www.dw.com