Компания Anthropic, разработчик чат-бота Claude, заблокировала доступ к своему новейшему программному обеспечению по распоряжению правительства США. В блоге, опубликованном в пятницу, компания сообщила, что государственные органы предписали ей запретить доступ к моделям Fable 5 и Mythos 5 всем иностранным гражданам, ссылаясь на соображения национальной безопасности.
Anthropic заявила, что получила предписание в 17:21 в пятницу, и в письме не были подробно объяснены конкретные опасения правительства. Запрет также распространяется на иностранцев, находящихся в США, включая сотрудников Anthropic. В результате компания была вынуждена в короткие сроки прекратить доступ для всех.
Искусственный интеллект, лежащий в основе модели Mythos, особенно эффективен в выявлении уязвимостей программного обеспечения, некоторые из которых оставались необнаруженными десятилетиями. Эта возможность использовалась властями США и избранными компаниями для устранения пробелов в безопасности. Однако с самого начала существовала обеспокоенность, что такой ИИ может стать опасным кибероружием в руках злоумышленников.
Модель Fable 5, выпущенная на этой неделе, основана на технологии Mythos, но ее возможности в области кибербезопасности и биотехнологий заблокированы. Mythos 5 — это непубличная полная версия, которая должна продолжать использоваться только государственными учреждениями и избранными корпоративными партнерами для укрепления их систем.
Anthropic подчеркнула, что получила от правительства лишь частичную информацию. Компания изучила отчет, который, по ее оценке, вероятно, послужил причиной предписания. Эксперты Anthropic пришли к выводу, что речь идет об ограниченной возможности использования ИИ для проверки определенного программного кода и исправления ошибок. Компания отметила, что модели других поставщиков, такие как GPT-5.5 от конкурента OpenAI, также обладают этой способностью.
Anthropic заявила, что не согласна с тем, что программное обеспечение, используемое сотнями миллионов пользователей, должно быть заблокировано по этой причине, и что меры безопасности в Fable 5 были тщательно протестированы. Ранее в этом месяце Anthropic предложила ведущим мировым компаниям в области ИИ скоординировать приостановку разработки передовых систем, предупредив, что технология совершенствуется так быстро, что существует риск потери контроля со стороны человека.
Source: www.aljazeera.com