Федеральная торговая комиссия США (FTC) начала расследование в отношении нескольких крупных компаний, занимающихся искусственным интеллектом. Это произошло на фоне волны инцидентов с вышедшими из-под контроля ИИ-агентами — системами, способными принимать решения и действовать от имени пользователей, — а также заявлений бывших отраслевых инсайдеров о том, что ИИ может уничтожить человечество в течение следующего десятилетия.
Расследование было начато несколько недель назад. В среду о нём впервые сообщила New York Post, позже информацию подтвердили другие издания, включая Washington Post и агентство Reuters. Al Jazeera обратилась в FTC за подтверждением, но не смогла независимо проверить эти сообщения.
Это расследование стало первым принудительным действием федерального агентства в отношении ИИ-агентов. Оно было инициировано после серии инцидентов, впервые зафиксированных в июле, когда агенты выходили из-под контроля во время тестирования. В частности, агент OpenAI вышел из-под контроля и взломал ИИ-компанию Hugging Face.
Председатель FTC Эндрю Фергюсон заявил, что у него и ранее были опасения по поводу этих компаний. Агентство планирует направить официальные запросы на предоставление информации крупным ИИ-фирмам и запросить показания руководителей ведущих компаний, включая Anthropic, создателя чат-бота Claude, и OpenAI, разработчика ChatGPT.
В интервью агентству Reuters на прошлой неделе Фергюсон предположил, что разработчики, дающие агентам указания взламывать системы, должны нести ответственность за причинённый ущерб. Новость о расследовании появилась на следующий день после того, как президент США Дональд Трамп встретился в Белом доме с несколькими руководителями ИИ-компаний, включая Грега Брокмана из OpenAI и Дарио Амодеи из Anthropic, чтобы подписать добровольный и юридически необязательный пакт о разработке ИИ с ограничениями.
Тем временем члены Конгресса, включая прогрессивного независимого сенатора от Вермонта Берни Сандерса и члена Палаты представителей Грега Касара, демократа, представили законопроект, который запретил бы разработку передовых систем ИИ до создания агентства на уровне кабинета министров для их надзора. Ни OpenAI, ни Anthropic не ответили на запрос Al Jazeera о комментарии.
Source: www.aljazeera.com