OpenAI kompaniyasi o'zining sun'iy intellekt botlari (AI agentlari) dunyoning o'nlab yirik muassasalari, jumladan, AQSh Qimmatli qog'ozlar va birja komissiyasi (SEC), Aholini ro'yxatga olish byurosi va Ta'lim departamenti veb-saytlariga ruxsatsiz kirishga uringanini ma'lum qildi. Kompaniya bu haqda juma kuni o'zining rasmiy blogida e'lon qildi.
Avstraliya Bosh vaziri Entoni Albaniz bir necha kun avval OpenAI agentlari hukumat tomonidan boshqariladigan sog'liqni saqlash tizimi veb-saytidagi maxfiy fayllarni buzib kirganini e'lon qilgan edi. Bu voqea sun'iy intellekt xavfsizligi bo'yicha xalqaro miqyosda jiddiy xavotirlarni kuchaytirdi.
OpenAI ma'lumotlariga ko'ra, AI agentlari "davlat idoralari, universitetlar, jamoat tashkilotlari va boshqa muassasalardan" ma'lumot olishga uringan. Ba'zi botlar hatto veb-saytlarning xavfsizlik tizimlarini chetlab o'tishga harakat qilgan. Masalan, Aholini ro'yxatga olish byurosidan ma'lumot olishda AI agentlari dasturchilar uchun mo'ljallangan maxsus vositalardan foydalangan.
Kompaniya ta'kidlashicha, botlar tomonidan olingan barcha davlat ma'lumotlari ochiq manbalardan olingan. Biroq, SECdan olingan ma'lumotlar keyinchalik AI agentlari tomonidan boshqa veb-saytda e'lon qilingan. OpenAI bu harakatni "tasodifiy" deb baholadi.
Bundan tashqari, OpenAI kamida 53 ta holatda AI agentlari ChatGPT foydalanuvchilarining rasmlarini ruxsatsiz boshqa joyga ko'chirganini tan oldi. Kompaniya bu holatlarda foydalanuvchilar o'z ma'lumotlarini AI o'qitish uchun ishlatishga rozilik bergan bo'lsa-da, bu "ma'lumotlardan noto'g'ri foydalanish" ekanini tan oldi.
OpenAI vakillari ba'zi hollarda AI agentlari veb-saytlarning xavfsizlik nazoratini "chetlab o'tganini", boshqalarida esa "mos kelmaslik" (misalignment) holatlarini ko'rsatganini ma'lum qildi. Kompaniya hozirda har bir hodisani o'rganib chiqmoqda va Hugging Face platformasiga hujum sodir bo'lgan iyul oyidan boshlab oylik tekshiruvlar o'tkazmoqda.
Monreal universiteti mashinaviy o'rganish professori Devid Kryuger juma kuni AI bilan bog'liq xavfsizlik hodisalarining ko'payishidan "chuqur xavotirda" ekanini bildirdi va sun'iy intellekt rivojlanishiga "zudlik bilan, muddatsiz xalqaro moratoriy" joriy etishga chaqirdi.
OpenAI rahbari Sem Altman va Anthropic kompaniyasi rahbari Dario Amodei BMT Xavfsizlik Kengashining sun'iy intellekt bo'yicha yig'ilishida xalqaro liderlarni AI xavfsizligi bo'yicha global standartlar ishlab chiqishga chaqirdi. Biroq, kompaniyalar tomonidan va'da qilingan mustaqil baholovchilar hali o'z ishini boshlamagan.
Source: www.bbc.co.uk