Калифорнийская лаборатория искусственного интеллекта Anthropic подала в суд, оспаривая решение Министерства обороны США (Пентагон) о признании компании “риском в цепочке поставок” после отказа разрешить неограниченное военное использование её ИИ-системы Claude. Это решение было принято в ответ на нежелание компании снять ограничения на применение ИИ для таких функций, как автономное оружие или внутренний надзор.
Генеральный директор Anthropic Дарио Амодеи предупредил министра обороны США Пита Хегсета о рисках использования непроверенного ИИ в автономной войне и отказался убрать ограничения на использование до истечения срока сделки 27 февраля. Пентагон, в свою очередь, заявил, что технологические компании не вправе диктовать условия в вопросах ведения войны.
В исковых заявлениях, поданных в Калифорнии и Вашингтоне, Anthropic утверждает, что действия администрации Трампа являются “беспрецедентными и незаконными”, а компания наказывается за “выражение принципа” использования ИИ “наиболее безопасным и ответственным образом” для “максимизации положительных результатов для человечества”. Компания также подчеркнула, что даже самые передовые модели ИИ недостаточно надёжны для автоматизированных систем вооружения, а их применение в системах наблюдения нарушает фундаментальные права.
Пентагон настаивает на необходимости полного использования возможностей ИИ для “любых законных” целей, утверждая, что отказ Anthropic равносилен навязыванию частной компанией политических ограничений в вопросах обороны. Однако этот шаг рассматривается как крайняя мера, поскольку Anthropic стала первой американской технологической компанией, получившей статус “риска в цепочке поставок”, ранее применявшийся только к иностранным компаниям, таким как китайский телекоммуникационный гигант Huawei.
Согласно американскому законодательству, “риск в цепочке поставок” относится к системам, которые могут “саботировать” или “злонамеренно внедрять” нежелательные функции. Этот статус фактически запрещает Anthropic вести бизнес с федеральными агентствами и может повлиять на отношения с подрядчиками. Несмотря на правовой спор, система Claude по-прежнему широко используется в оперативных разведывательных системах Пентагона, включая планирование недавней атаки США и Израиля на Иран.
Source: www.dw.com