Ведущие компании в области искусственного интеллекта работают над созданием органа по стандартизации, который, по их словам, будет регулировать отрасль на фоне растущих опасений по поводу ее опасностей и очевидной неохоты режима США контролировать ее стремительное развитие. Во вторник создатель ChatGPT OpenAI заявил, что работает с ведущими конкурентами Anthropic и Google над созданием саморегулирующегося органа. Это происходит на фоне растущих призывов к более строгому контролю над технологией, которая развивается с молниеносной скоростью и не без опасных прецедентов.
Регулирующий орган, предложенный Демисом Хассабисом из Google DeepMind, будет смоделирован по образцу Управления по регулированию финансовой индустрии (FINRA), которое надзирает за американскими брокерами и инвестиционными фирмами. В июле Хассабис призвал создать федеральную организацию, которая тестировала бы самые мощные системы ИИ перед их выпуском для публики. Он предположил, что финансирование будет поступать от отрасли, чтобы «привлекать технических специалистов мирового класса и предоставлять необходимые вычислительные ресурсы для крупномасштабного тестирования».
Это предложение появилось на фоне растущих опасений по поводу безопасности ИИ, которые обострились в последние недели после предупреждений двух бывших сотрудников крупных разработчиков ИИ. Исследователь Джейкоб Коксон, бывший сотрудник OpenAI, уволился из Anthropic на прошлой неделе, заявив, что компании, занимающиеся ИИ, «играют с нашими жизнями». В понедельник бывший исследователь Google DeepMind Билал Чугтай поддержал его опасения, предупредив, что «ИИ может убить нас всех, и у нас может закончиться время, чтобы избежать этого исхода».
Даже ведущие имена в отрасли выразили аналогичные опасения. В субботу генеральный директор Anthropic Дарио Амодеи призвал к замедлению развития отрасли, и генеральный директор OpenAI Сэм Альтман, Илон Маск из xAI и Хассабис поддержали это мнение. Однако президент США Дональд Трамп отмахнулся от призывов лучше обуздать развитие ИИ как от «мистификаций» и «заговора», в то время как разделенный Конгресс, узко контролируемый республиканцами Трампа, не смог принять меры. Предстоящие промежуточные выборы делают маловероятным, что какие-либо действия последуют в ближайшее время, несмотря на то, что ИИ и энергоемкие центры обработки данных, необходимые для его работы, вызывают беспокойство у многих избирателей.
Отказ Трампа был одобрен генеральным директором Nvidia Дженсеном Хуангом, чья компания по производству чипов обеспечивает работу подавляющего большинства систем ИИ. Хуанг поблагодарил президента США за то, что он «увидел насквозь» предупреждения об ИИ. Мрачное предсказание о том, что ИИ может уничтожить человечество, «не имеет научной основы», сказал Хуанг. Однако ведущие республиканцы, включая вице-президента Дж. Д. Вэнса, выразили осторожность. На фоне постоянной апатии Вашингтона к регулированию небольшие компании, занимающиеся ИИ, предупредили, что любые меры саморегулирования будут за их счет. Глава канадской компании Cohere Айдан Гомес обвинил доминирующие американские лаборатории ИИ в создании «картеля» под видом безопасности. «ИИ нужны ограничители. Это не предмет спора и никогда им не было. Спор идет о том, кто их пишет, кто может участвовать и чьи интересы защищают правила», — написал Гомес в своем блоге в воскресенье.
Source: www.dw.com