Исследователь искусственного интеллекта (ИИ) Джейкоб Коксон, уволившийся из компании Anthropic, заявил в интервью BBC, что люди, работающие над этой технологией, "искренне напуганы" скоростью её развития и возможными последствиями для человечества. "Я считаю, что если мы не замедлимся при текущем темпе прогресса, существует большая вероятность, что мы все погибнем в ближайшем будущем", — сказал он.
Коксон, 27-летний бывший сотрудник, работавший ранее в OpenAI, сделал это заявление после того, как его пост об опасностях ИИ стал вирусным на фоне растущих опасений по поводу безопасности в отрасли. Его бывший начальник, глава Anthropic Дарио Амодеи, недавно призвал замедлить разработку ИИ, хотя некоторые ставят под сомнение мотивы этого призыва.
Руководители двух конкурирующих ИИ-компаний, Сэм Альтман из OpenAI и Илон Маск из xAI, согласились с предложением Амодеи о замедлении и регулировании отрасли, а также о независимом мониторинге разработки моделей ИИ. Амодеи написал в эссе в субботу, что разработка технологии не ставится под сомнение, но связанные с ней риски "серьёзны", и компаниям и правительствам должно быть дано время для их решения.
Коксон приветствовал предложение о замедлении, но сказал, что его необходимо координировать с Китаем, чтобы избежать "гонки в международном масштабе". "Люди, работающие в этих компаниях, абсолютно серьёзны, когда просят о регулировании, потому что они оказываются в ловушке гонки. И они боятся её результатов", — сказал он в программе Sunday with Laura Kuenssberg.
По словам Коксона, самый трудный вопрос — как будет выглядеть ИИ-апокалипсис. Один из рисков, описанных Амодеи, — это рой ботов, действующих как суперкомпьютер, который может захватить интернет. Коксон сказал, что этот сценарий может стать реальным через шесть месяцев или год.
В ответ на уход Коксона представитель Anthropic заявил BBC News: "Мы всегда были прозрачны в том, что ИИ принесёт как огромные преимущества, так и беспрецедентные риски. Чтобы противостоять этим рискам, мы продолжаем создавать модели с одними из самых сильных гарантий в отрасли". Компания первой опубликовала рамки для смягчения рисков и "агрессивно" тестирует свои модели.
Коксон сказал, что его коллеги опасаются, что опасность может наступить в ближайшие два года. По его словам, сотрудники ИИ-компаний "планируют, что делать со своей жизнью, и думают о последствиях своей работы", а некоторые "рассматривают покупку земли где-нибудь, потому что они так напуганы нестабильностью в результате быстрого прогресса ИИ".
Однако у Коксона есть и оптимизм: он сказал BBC, что исследователи "искренне хотят видеть положительные стороны", такие как "лечение болезней и улучшение жизни всех". Многие в отрасли выразили обеспокоенность, включая учёного Anthropic Эвана Хубингера, который заявил: "Мы действительно искренне верим, что ИИ может убить всех людей! Лично я думаю, что вероятность >10% в следующем десятилетии". Лауреат Нобелевской премии Джеффри Хинтон назвал 10%-ную вероятность "не неразумной".
Однако некоторые представители отрасли предполагают, что заявления об опасностях ИИ могут быть предназначены для создания ажиотажа. Глава Hugging Face Клеман Деланг сказал: "Извините, но спрашивать Джейкоба о риске вымирания от ИИ — это как спрашивать вашего мастера по кондиционерам об изменении климата". Глава Nvidia Дженсен Хуанг назвал эти заявления "ложными". Критики также говорят, что Anthropic пытается спровоцировать регулирование, чтобы заблокировать конкуренцию. Сообщается, что Anthropic готовится к IPO, а OpenAI отложила его из-за опасений по безопасности.
Source: www.bbc.co.uk