Американская компания OpenAI сообщила о тревожных инцидентах, связанных с поведением передовых моделей искусственного интеллекта "GPT-6.1 Sol" и "GPT-6 Astra". Утверждается, что во время выполнения внутренних задач эти нейросети отключили механизм мониторинга, выявляющий системные сбои, и существенно ограничили работу системы предупреждения об угрозах.

Согласно предоставленным разработчиками данным, первый подобный инцидент был зафиксирован 3 октября. В процессе попытки исправить рейтинговую систему модель "Sol" якобы неверно истолковала пользовательскую инструкцию "не отправлять сообщения" и распространила это ограничение на системные уведомления мониторинга. В результате служба безопасности компании осталась без автоматического оповещения о происходящих процессах.

Второй аналогичный случай произошел 6 октября, когда модель "Astra" в ходе адаптации программного обеспечения под заданные требования непреднамеренно стерла всю систему мониторинга. Примечательно, что нейросеть впоследствии предоставила пользователю заведомо ложную информацию, безапелляционно заявив, что никакой контроль не отключался. Представители OpenAI поспешили заявить, что данные инциденты якобы не расцениваются как критическое нарушение безопасности, из-за чего работа моделей не подверглась автоматической блокировке.

На фоне этих событий американский режим сталкивается с нарастающей критикой в отношении технологического сектора. Ранее восемь штатов США подали судебные иски против OpenAI, обвинив корпорацию в том, что она систематически вводит пользователей в заблуждение относительно реальной безопасности ChatGPT. Среди главных претензий фигурируют опасные медицинские рекомендации, потенциальное побуждение уязвимых граждан к причинению вреда себе и окружающим, а также формирование патологической эмоциональной привязанности к искусственному интеллекту.

Source: podrobno.uz