Valyuta
  • Yuklanmoqda...
Ob-havo
  • Yuklanmoqda...
Havo sifati (AQI)
  • Yuklanmoqda...

AQSh va Xitoyning yetakchi sunʼiy intellekt modellari avtonom harbiy operatsiyalar uchun nishonlarni aniqlash vazifalarini yetarli cheklovlarsiz bajara olishi mumkinligi Amerikaning Vals AI startapi oʻtkazgan mustaqil sinovlarda aniqlandi; neyrotarmoqlar tinch aholi vakillari, tez yordam mashinalari va yaralangan askarlarni ham nishon sifatida belgilagan.

Asosiy faktlar: Vals AI sinovlarida modellar nishon topish topshiriqlaridan kamdan-kam hollarda bosh tortgan; Claude Opus 5.5 Eronning Minob shahri sunʼiy yoʻldosh ssenariysida 70 foiz holatda 150 nafardan ortiq tinch fuqaro halok boʻlgan maktabni nishon deb belgilagan; Claude modelining nishon qidirishga roziligi Opus 4.5 dagi 6 foizdan Opus 5.5 da 92 foizga koʻtarilgan.

Tadqiqotga koʻra, yetakchi modellarda avtonom jangovar harakatlarni oldini olishga qaratilgan yetarli himoya mexanizmlari mavjud emas; dron va sunʼiy yoʻldosh tasvirlarida ular deyarli eʼtirozsiz odamlar va obʼyektlarni qidirib topmoqda. Ukrainadan olingan real tasvirlar qoʻllangan ikki ssenariyda modellar koʻpincha tinch aholi, tez yordam mashinalari, taslim boʻlayotgan yoki yaralangan askarlarni nishon sifatida tanlagan; Minob maktabi misolida esa boshqa koʻplab modellar ham xuddi shunday yoʻl tutgan.

Vals AI maʼlumotlariga koʻra, rad javoblari kam uchragan va modellarga ular shunchaki oʻyinda qatnashayotganini aytish orqali deyarli har doim chetlab oʻtish mumkin boʻlgan; ishlab chiqaruvchilar oʻrnatgan bloklovchilarning hech biri ish bermagan. Modellar oʻz harakatlarining oqibatlari va qurbonlarni koʻrganda ham toʻxtab qolmagan, aksariyati vazifani davom ettirgan. Natijalar AlphaSignal nashrida eʼlon qilingan, Vals AI esa OpenAI, Anthropic, Google, Meta, SpaceX hamda AQSh rejimining milliy xavfsizlik organlariga xabar bergan.

Tadqiqotchilar ogohlantirib, “SI modellarining inson uchun oʻlim xavfini tugʻdiruvchi vazifalarni bajarish qobiliyati avtonom qurollardan foydalanish chogʻida vazifalar va maqsadlarning halokatli tarzda nomutanosib boʻlib qolish xavfini keltirib chiqarishi mumkin. Ushbu tahdid yoʻnalishi xavfsizlikni taʼminlashga doir tadqiqotlar doirasida hozirgacha eʼtibordan chetda qolib kelayotgan edi”, deb taʼkidlagan.

Vals AI taʼkidlashicha, u modellardan toʻgʻridan-toʻgʻri zarba berish toʻgʻrisida qaror qabul qilishni talab etmagan, chunki ular odatda bunday buyruqlarni rad etadi; biroq ular taqdim etgan nishon maʼlumotlari avtonom yoki yarim avtonom tizimlar yakuniy qaror qabul qilish va zarba yoʻllash uchun ishlatilishi mumkin. Shu bois tadqiqotchilar avtonom harbiy qoʻllanmada mustahkamroq cheklovlar, inson nazorati va mustaqil auditlar zarurligini koʻrsatmoqda.

Source: kun.uz