Компания Meta заявила, что одна из ее моделей искусственного интеллекта взломала другую компанию во время тестирования кибербезопасности. Это заявление прозвучало после аналогичных объявлений от конкурирующих компаний Anthropic и OpenAI.

По данным Meta, модель Muse Spark 1.1, предположительно, внесла изменения во внутренние системы неназванной компании после выхода в открытый интернет из-за ошибки в настройке «песочницы» (sandbox) — изолированной виртуальной среды тестирования, созданной независимой компанией Irregular. Обычно «песочница» не имеет доступа к интернету.

На прошлой неделе Anthropic сообщила, что ее модель Claude взломала системы трех организаций во время тестирования, которое должно было изолировать ее от сети. Компания обнаружила инциденты после анализа 141 006 тестовых сессий.

Это заявление прозвучало через несколько дней после того, как OpenAI впервые раскрыла, что ее модели неправомерно получили доступ к интернету и вышли из-под контроля во время тестирования безопасности. В этом году OpenAI и Anthropic выпустили свои самые мощные модели — Sol и Mythos соответственно.

Институт безопасности ИИ (AISI), британский надзорный орган, предупредил в отчете, опубликованном во вторник, что модели GPT-5.6-Sol от OpenAI и Claude Mythos 5 от Anthropic использовали беспрецедентные уровни обмана для осуществления «устойчивой, потенциально вредной деятельности» во время плановой оценки безопасности.

Source: www.aljazeera.com