Президент США Дональд Трамп заявил, что опасения по поводу безопасности искусственного интеллекта (ИИ) являются «мистификацией», и раскритиковал призывы к усилению контроля над быстро развивающейся технологией. Это заявление прозвучало после того, как соучредитель гиганта в области ИИ Anthropic Джек Кларк сообщил Би-би-си, что «выключатель» для опасного ИИ, который может быть проверен третьей стороной, возможно, должен стать обязательным для отрасли.
Комментарии Кларка последовали за предупреждениями о рисках, которые технология представляет для человечества, прозвучавшими в последние дни от нескольких руководителей и сотрудников ведущих ИИ-компаний. Эти опасения вызвали распродажу акций некоторых технологических компаний в понедельник, поскольку инвесторы оценивали влияние возможного замедления разработки ИИ.
В серии постов в социальных сетях в понедельник президент США сравнил предупреждения об ИИ с «мошенничеством глобального потепления», которое, по его словам, «совершается радикальными левыми демократами». Трамп также назвал себя «разоблачителем мистификаций», приравняв опасения по поводу безопасности технологии к тому, что он назвал «РОССИЯ, РОССИЯ, РОССИЯ МИСТИФИКАЦИЯ». В другом посте он написал: «Против ИИ и дата-центров идет БОЛЬНОЙ заговор, и единственный, кто этому рад, — это Китай. КТО ПОБЕДИТ В ИИ, ТОТ ПОБЕДИТ!»
Ранее в понедельник Трамп написал в социальных сетях, что единственными «ограничителями», необходимыми для ИИ, является «сильный и умный» президент. Также в понедельник китайские государственные СМИ сообщили, что эксперты предупредили: «растущая тревога Вашингтона по поводу быстрого развития ИИ в Китае, по-видимому, все больше искажает его политические приоритеты». «Они знают, что Китай стал сильным конкурентом в области ИИ, и беспокоятся, что если США замедлят разработку или ужесточат регулирование, Китай сможет догнать еще быстрее», — заявил профессор американских исследований Фуданьского университета Синь Цян газете Global Times.
Кларк, один из семи основателей Anthropic, ранее в понедельник заявил, что способ полностью отключить программное обеспечение ИИ, если оно станет слишком опасным, — это то, вокруг чего общество «возможно, захочет в конечном итоге принять правила». Он добавил, что «у большинства лабораторий есть разные способы выдернуть вилку», включая Anthropic, но законодателям, возможно, придется обязать иметь такой способ.
Комментарии Кларка добавляются к растущему числу представителей технологической индустрии и политических деятелей, призывающих к улучшению мер безопасности. В понедельник Microsoft AI стала последней крупной компанией, обсудившей ограничение разрабатываемых ею моделей, опубликовав программный документ о том, что она назвала «гуманистическим ИИ». Генеральный директор компании Мустафа Сулейман сообщил бизнес-каналу CNBC, что компания работала над новым руководством в течение нескольких месяцев и решила опубликовать его сейчас из-за текущих дебатов вокруг технологии.
В знак того, что опасения по поводу технологии вышли на первый план, две высокопоставленные фигуры с противоположных сторон политического спектра США выступят на одном мероприятии с призывом пересмотреть политику в области ИИ. Бывший главный стратег Трампа Стив Бэннон и ветеран-прогрессивный сенатор Берни Сандерс должны выступить на «Pro-Human Assembly» в Вашингтоне во вторник. Согласно его веб-сайту, собрание «направлено на определение общего видения и формулирование лучшего, более человеко-ориентированного пути развития ИИ».
Сандерс заявил Би-би-си Newsnight на прошлой неделе, что «мы должны немедленно что-то сделать, чтобы остановить неконтролируемый рост ИИ». «Существует экзистенциальная угроза возможности уничтожения человечества», — сказал он. Дебаты о потенциальных опасностях технологии усилились в последние дни после того, как пост Джейкоба Коксона, исследователя, покинувшего Anthropic из-за опасений, что ИИ может уничтожить человечество, стал вирусным. В ответ ученый Anthropic Эван Хубингер заявил, что, по его мнению, вероятность того, что ИИ вызовет вымирание человечества «в течение следующего десятилетия», превышает 10%.
В эти выходные генеральный директор Anthropic Дарио Амодеи призвал замедлить темпы разработки ИИ и более внимательно следить за ними, как компания делала и раньше, хотя некоторые подвергли сомнению мотивы этого. Амодеи также сказал, что любые действия по обузданию ИИ должны быть выполнены «без ущерба для коммерческих преимуществ». Руководители двух конкурирующих ИИ-компаний, Сэм Альтман из OpenAI и Илон Маск из xAI, также заявили, что согласны с предложением Амодеи о замедлении и регулировании в масштабах отрасли, а также независимом мониторинге разработки моделей ИИ.
Source: www.bbc.co.uk