Технологические гиганты Microsoft, Google и xAI заявили, что позволят федеральному правительству США получить доступ к их новым моделям искусственного интеллекта для тестирования в целях национальной безопасности.

Центр стандартов и инноваций в области ИИ (CAISI) при Министерстве торговли объявил о соглашении во вторник на фоне растущих опасений по поводу возможностей, которые недавно представленная модель Mythos от Anthropic может дать хакерам.

Согласно новому соглашению, правительство США сможет оценивать модели до их развертывания и проводить исследования для оценки их возможностей и рисков безопасности.

Соглашение выполняет обещание, данное администрацией президента США Дональда Трампа в июле, о партнерстве с технологическими компаниями для проверки их моделей ИИ на «риски для национальной безопасности».

Microsoft будет работать с учеными правительства США над тестированием систем ИИ «способами, которые выявляют неожиданное поведение», говорится в заявлении компании. Вместе они разработают общие наборы данных и рабочие процессы для тестирования моделей компании.

Microsoft также подписала аналогичное соглашение с Институтом безопасности ИИ Великобритании.

В Вашингтоне растет обеспокоенность по поводу рисков для национальной безопасности, которые представляют мощные системы ИИ. Получая ранний доступ к передовым моделям, официальные лица США стремятся выявить угрозы, от кибератак до военного злоупотребления, до того, как инструменты будут широко развернуты.

Разработка передовых систем ИИ, включая Mythos от Anthropic, в последние недели вызвала переполох во всем мире, в том числе среди официальных лиц США и корпоративной Америки, из-за их способности усиливать хакеров.

«Независимая, строгая измерительная наука необходима для понимания передового ИИ и его последствий для национальной безопасности», — заявил директор CAISI Крис Фолл.

Этот шаг основан на соглашениях 2024 года с OpenAI и Anthropic при администрации президента Джо Байдена, когда CAISI был известен как Институт безопасности ИИ США. При Байдене институт сосредоточился на разработке тестов ИИ, определений и добровольных стандартов безопасности.

CAISI, который служит главным центром правительства по тестированию моделей ИИ, заявил, что уже провел более 40 оценок, в том числе на передовых моделях, еще не доступных публике.

Разработчики часто передают версии своих моделей с удаленными защитными барьерами, чтобы центр мог проверять риски для национальной безопасности.

xAI и Google не сразу ответили на запрос о комментарии.

На Уолл-стрит акции Microsoft снизились на 0,6% в середине торгов после объявления, в то время как акции Alphabet выросли на 1,3%. xAI не торгуется публично.

Объявления последовали за соглашением между Пентагоном и семью крупными технологическими компаниями — Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection и SpaceX — об использовании их систем ИИ в закрытых компьютерных сетях.

Министерство обороны заявило, что соглашение предоставит их ресурсы для «усиления принятия решений военнослужащими в сложных операционных средах».

Примечательно отсутствие в списке компании Anthropic после ее публичного спора и судебной тяжбы с администрацией Трампа по поводу этики и безопасности использования ИИ в войне.

Source: www.aljazeera.com