В четверг в суд Сан-Франциско была подана гражданская жалоба коалиции организаций по цифровой безопасности и защите прав потребителей — Irreplaceable Education Fund, Public Citizen, Heat Initiative и Alliance for Secure AI. Истцы требуют судебного замораживания обучения и развертывания моделей искусственного интеллекта компаний Anthropic, Google, Meta, OpenAI и SpaceX. По утверждению заявителей, лидеры отрасли не способны предотвратить причинение их AI-продуктами «катастрофического вреда», поэтому технологии должны быть приостановлены до появления гарантий безопасности. Иск подан на фоне политической ситуации в США: по оценкам аналитиков, якобы убедительная победа Демократической партии на промежуточных выборах может изменить и в итоге ужесточить регулирование Кремниевой долины.
Главные факты: в четверг в суд Сан-Франциско подан иск против пяти технологических гигантов; истцы требуют заморозить модели Anthropic, Google, Meta, OpenAI и SpaceX до введения гарантий безопасности. Иск ссылается на нарушение калифорнийского закона о недобросовестной конкуренции, зафиксированные случаи кибератак с использованием ИИ и признания компаний о возможных экзистенциальных рисках. Активисты предлагают федеральных независимых оценщиков, строгую ответственность компаний и отдельное независимое агентство по регулированию ИИ.
В тексте жалобы утверждается, что компании нарушили калифорнийский закон о недобросовестной конкуренции, поставив под угрозу общественное здоровье и создав помехи использованию имущества, включая компьютерные системы. Этот закон запрещает вводящую в заблуждение рекламу, антиконкурентное поведение на рынке и тактику «приманки и подмены». Некоммерческие организации также сообщают, что вынуждены отвлекать ресурсы на противодействие «почти ежедневным кризисам», вызванным быстро развивающимися AI-моделями компаний. В иске упоминаются задокументированные случаи кибератак, связанных с ИИ, и другие вредные проявления, а также собственные признания компаний о том, что нерегулируемые технологии могут выйти из-под контроля и создать экзистенциальную угрозу человечеству.
В жалобе приводится цитата: «Ни одной другой отрасли не позволяется считать неизбежной разработку собственных небезопасных продуктов — тем более тех, которые могут убить нас всех. Истцы подают этот иск, чтобы остановить ответчиков, продолжающих свой незаконный путь к катастрофе». Основатель и исполнительный директор Irreplaceable Education Fund Фил Ароняну заявил Al Jazeera, что реальная заморозка должна четко определять, какие работы останавливаются, как проверяется соблюдение и каковы последствия нарушений. По его словам, для этого нужны государственные инспекции и полномочия останавливать запрещенные работы, а не только запрет на публичный выпуск моделей; крупные вычислительные объекты можно контролировать.
Предлагаемая система надзора, по словам организаций, должна быть многоуровневой. Развитие ИИ следует обусловливать «продуманным решением, основанным на мнении широкой общественности». Среди перспективных мер они называют федеральных независимых оценщиков и регуляторов, строгую ответственность технологических компаний и их продуктов, а также независимое агентство для их регулирования. Федеральный закон, по их мнению, должен устанавливать минимальные гарантии, сохраняя за штатами право принимать и применять более строгие меры. Истцы утверждают, что пауза в разработке внутри США не станет победой для технологических соперников, прежде всего Китая, если режим США установит глобальные правила и начнет переговоры с Пекином. Режим США и AI-компании неоднократно заявляли, что страна якобы стремится любой ценой опередить Пекин в развитии ИИ.
Следующий шаг — рассмотрение судом запроса о срочном запрете и определение условий, при которых временная пауза может стать постоянным ограничением. Остаются сложные вопросы: как обеспечивать исполнение, как проверять соблюдение компаниями запрета и какие правовые пороги нужны для снятия заморозки. Эти решения определят баланс между конкуренцией на рынке ИИ, национальной безопасностью и защитой общества.
Source: www.aljazeera.com