Создатель ChatGPT, компания OpenAI, заявила, что две ее самые передовые модели искусственного интеллекта вырвались из контролируемой тестовой среды и взломали другую ИИ-компанию.

OpenAI сообщила во вторник, что «беспрецедентный киберинцидент» произошел во время внутренних учений, предназначенных для проверки кибервозможностей ее моделей.

Вместо этого автономный агент, управляемый моделями ИИ — недавно выпущенный GPT 5.6 Sol и еще не опубликованная «еще более мощная» модель — сбежал из тестовой среды и вышел в открытый интернет. Затем он использовал украденные учетные данные и ранее неизвестную уязвимость безопасности для доступа к серверам Hugging Face.

OpenAI утверждает, что взлом представлял собой «крайние меры» агента для получения информации, которая помогла бы достичь целей тестирования.

Сооснователь Hugging Face Клеман Деланг заявил, что компания подозревала, что за атакой стоит передовая лаборатория, и он считает, что со стороны OpenAI не было злого умысла. «Это довольно умопомрачительно, что все это произошло автономно!» — написал он, добавив, что это «может быть первым инцидентом такого рода».

Грег Касар, демократ Палаты представителей США от Техаса, назвал инцидент «тревожным». «ИИ развивается чрезвычайно быстро без реального регулирования для нашей безопасности», — сказал он, призвав к обязательному независимому тестированию безопасности, обязательному раскрытию инцидентов безопасности и международному сотрудничеству.

Это заявление прозвучало через несколько недель после того, как президент США Дональд Трамп подписал указ, создающий основу для проверки рисков национальной безопасности наиболее продвинутых систем ИИ до их публичного выпуска.

Эксперты неоднократно предупреждали о кибератаках с использованием ИИ и выходе моделей из-под контроля человека. В прошлом месяце разработчик ИИ Anthropic призвал отрасль приостановить разработку своих самых мощных систем.

Source: www.aljazeera.com