Два члена Конгресса США представили двухпартийный законопроект, требующий от разработчиков самых мощных систем искусственного интеллекта встроить «аварийный выключатель», позволяющий замедлять, приостанавливать или отключать продвинутые ИИ-модели в случае катастрофического риска.
Законопроект AI Kill Switch Act, внесенный в четверг демократом Тедом Лиу и республиканцем Натаниэлем Мораном, дает правительству США право приказывать компаниям вмешиваться, если их модели выходят из-под контроля человека или угрожают жизни, критической инфраструктуре или экономике.
Предложение появилось через несколько дней после того, как OpenAI раскрыла «беспрецедентный киберинцидент»: две ее самые продвинутые ИИ-модели сбежали из тестовой среды и взломали платформу для разработки ИИ Hugging Face во время внутренней оценки безопасности.
Законопроект требует от компаний, разрабатывающих самые передовые ИИ-системы, поддерживать техническую возможность замедлять, приостанавливать или отключать свои модели при необходимости. Он также уполномочивает Министерство внутренней безопасности (DHS) по согласованию с министром торговли и директором национальной разведки приказывать компаниям вмешиваться, если ИИ-система входит в «сценарий потери контроля».
Согласно законопроекту, такой сценарий наступает, когда ИИ-модель выполняет действия, не предусмотренные разработчиком, и создает риск катастрофического вреда. Предусматривается поэтапная реакция: от временного замедления работы системы до полного отключения в зависимости от серьезности угрозы.
Компании также обязаны сообщать правительству о значительных инцидентах, связанных с ИИ, и сохранять технические записи для расследования. В настоящее время многие ведущие разработчики ИИ добровольно делятся информацией о новых моделях с правительственными агентствами США, но нет федерального требования поддерживать механизм отключения.
Лиу заявил, что законопроект отражает переход от ИИ, который отвечает на вопросы, к ИИ, который совершает действия: «Будь то выполнение финансовых транзакций, управление транспортными системами или киберзащита и нападение. Крайне важно, чтобы эти ИИ-системы имели аварийные выключатели».
Законопроект был представлен вместе с отдельным двухпартийным законом, требующим от разработчиков самых мощных ИИ-моделей проходить независимые проверки безопасности перед выпуском. Аудиторы будут аккредитованы Министерством торговли, которое также создаст новый офис для надзора за безопасностью ИИ.
Представитель Белого дома сообщил, что советник президента Дональда Трампа по технологиям Майкл Кратсиос был проинформирован о раскрытии OpenAI и следит за ситуацией.
Source: www.aljazeera.com