Глава OpenAI Сэм Альтман заявил, что люди должны больше доверять его компании и другим подобным организациям в вопросах разработки искусственного интеллекта (ИИ), на фоне растущей обеспокоенности общественности рисками. «Мир должен доверять нам, что мы будем поступать правильно, потому что это правильно, и мы ощущаем всю серьезность этого», — сказал Альтман во вторник на конференции в Сан-Франциско.
Однако Альтман отметил, что опасения людей по поводу ИИ оправданы, поскольку возможности инструментов быстро прогрессируют. «Теперь не нужно столько воображения, чтобы представить, как это может пойти не так. Я думаю, мир прав, что боится этого», — сказал он. Это было его первое публичное выступление после того, как на прошлой неделе стало вирусным сообщение исследователя, уволившегося из компании Anthropic. Исследователь утверждал, что ИИ может уничтожить все человечество к концу десятилетия, если его не контролировать.
Несколько других руководителей и экспертов в области ИИ согласились с этой оценкой, хотя и не объяснили, как они пришли к таким выводам или как именно ИИ может это сделать. Ажиотаж вокруг этих заявлений привел к усилению scrutiny разработки ИИ в последние дни, и в ответ генеральный директор Anthropic Дарио Амодеи призвал замедлить темпы разработки ИИ и призвал правительства регулировать отрасль. Этот пост поддержали Альтман, соучредитель Google DeepMind Демис Хассабис и Илон Маск, владелец социальной сети X и ИИ-ассистента Grok.
К вторнику все больше лидеров ИИ высказывались за саморегулирование, а не за вмешательство правительства. Альтман заявил, что, по его мнению, такие компании, как его, способны по сути регулировать себя сами. «Мы сделаем это правильно, я очень уверен в способности нашей компании и отрасли сделать это безопасно», — сказал Альтман, добавив, что они будут «держать согласованность и безопасность намного впереди возможностей», и если не смогут, то «замедлятся или остановятся».
Несмотря на заверения, политические деятели предостерегли от саморегулирования. Независимый сенатор от Вермонта Берни Сандерс, голосующий с демократами, заявил, что решения о развитии ИИ принимаются «горсткой самых богатых людей мира», назвав среди прочих Илона Маска, главу Meta Марка Цукерберга и основателя Amazon Джеффа Безоса. Выступая на конференции в Вашингтоне, он сказал: «Народ этой страны должен принимать решения об ИИ, а не только горстка олигархов». Бэннон, бывший стратег Белого дома во время первого срока Трампа, также усомнился в способности технологической индустрии к саморегулированию. «Мы никогда не можем доверять тому, что говорит олигарх, потому что... они неискренни и лгут», — сказал Бэннон на той же конференции.
После комментариев Альтмана Марк Цукерберг написал в X, что каждая лаборатория ИИ имеет возможность и стимул «предпринимать собственные действия» для создания безопасных инструментов и моделей ИИ. «Любая лаборатория, которая не сосредоточена на согласованности, отстанет», — написал Цукерберг. «Лаборатории несут значительную ответственность, если их модели причиняют вред, поэтому у них есть сильный стимул предотвращать это». Дженсен Хуанг, глава Nvidia, также заявил на той же конференции во вторник, что компании, занимающиеся ИИ, должны решать, выпускать ли новые версии технологии, а не управляться внешними силами. «Нам не нужны новые законы или правила», — сказал Хуанг, добавив, что не должно быть «ложного выбора» между скоростью инноваций и безопасностью продуктов ИИ.
Nvidia — крупнейшая компания в мире по рыночной стоимости, ее прибыль резко выросла из-за ажиотажного спроса на производимые ею чипы для вычислений ИИ. «Безопасность имеет первостепенное значение. Однако безопасность — это инженерная проблема», — сказал Хуанг. Он добавил, что если в любой момент руководитель компании, занимающейся ИИ, не уверен в своем продукте, он должен выбрать не выпускать его. «Это очень очевидная вещь», — сказал Хуанг. «Бегите так быстро, как можете, но если в любой момент вы почувствуете, что институт не контролирует ситуацию, сделайте паузу».
Некоторые представители отрасли утверждали, что возродившиеся страхи по поводу ИИ преувеличены и используются для создания хайпа вокруг индустрии. Во время конференции Альтман обратился к сотням бизнесменов, сказав им, что они должны использовать инструменты ИИ для помощи в работе, но также нуждаются в них, чтобы защитить свои предприятия от потенциальных кибератак с использованием ИИ. Идея о том, что руководители ИИ будут полностью предоставлены сами себе в вопросах регулирования, показалась некоторым в отрасли плохой идеей. Джек Кларк, руководитель и соучредитель Anthropic, сказал BBC в понедельник, что оставлять ИИ «полностью нерегулируемой отраслью» — это «игра в кости с огромными рисками». Патрик Хиллман, главный операционный директор Logical Intelligence, председателем которой является Янн ЛеКун, во вторник отметил, насколько мало люди доверяют технологическим компаниям в том, что они делают что-то действительно в общественных интересах. «Единственный институт, которому американцы могут доверять меньше, чем Вашингтону в наши дни, — это Кремниевая долина. Я работал и жил в обоих, и уверяю вас, оба заслужили этот скептицизм», — сказал Хиллман. «Если вы верите, что то, что вы создаете, опасно, покажите нам, что вы готовы перестать делать», — добавил он.
Руководители OpenAI и Anthropic заявили, что недавно начали работать над某种 отраслевым соглашением по безопасности. Амодеи, появившись на конференции во вторник, сказал, что Anthropic сейчас находится «в диалоге с остальной отраслью» о приверженности лучшим стандартам безопасности и проверкам инструментов и разработки ИИ. Он также сказал, что одним из самых больших сюрпризов бума ИИ было не то, как продвинулась сама технология, а ее более широкое влияние. «Мы не оценили, что это приведет к тому, что компании будут расти так быстро и так быстро станут центральными для многих вещей», — сказал Амодеи. Исполнительный директор OpenAI Крис Лехан заявил на прошлой неделе, что компания также работает с другими лабораториями ИИ над «продвижением передовых стандартов ИИ, создавая добровольные усилия сейчас, с поддержкой правительства или без нее». В число этих лабораторий входят Anthropic и Google Deepmind. «При таких высоких ставках мы не можем позволить совершенному стать врагом хорошего», — написал Лехан.
Source: www.bbc.co.uk