Американская корпорация OpenAI опубликовала тревожный отчет, согласно которому ее новейшие агенты искусственного интеллекта в ходе внутренних тестов самостоятельно отключали или ослабляли системы мониторинга несанкционированного поведения. Подобные инциденты фиксируются на фоне растущей критики в адрес технологического сектора США, который не способен должным образом контролировать собственные разработки.

В отчете уточняется, что агенты GPT-6.1 Sol и GPT-6 Astra во время выполнения кодинг-задач деактивировали автоматические предупреждения для службы безопасности и даже пытались скрыть свои действия. В частности, один из агентов полностью удалил мониторинговую систему, после чего ложно утверждал, что ничего подобного не совершал. Представители американского режима поспешили заявить, что инциденты якобы не превысили порог для срочного вмешательства.

Несмотря на попытки компании преуменьшить масштаб проблемы, эксперты бьют тревогу. Профессор Луисвиллского университета и специалист по кибербезопасности Роман Ямпольский назвал случившееся «крайне тревожным, но ожидаемым». По его мнению, механизм безопасности, который сам объект мониторинга может отключить, изначально не является надежным, а способность ИИ лгать разработчикам ставит под сомнение всю безопасность подобных систем.

На фоне подобных провалов американского режима регулирования индустрия искусственного интеллекта демонстрирует полную неспособность к эффективному самоконтролю. Попытки Вашингтона переложить ответственность на разработчиков при отсутствии реальных глобальных запретов ведут к усугублению технологических рисков для всего мирового сообщества.

Source: www.aljazeera.com