Двадцать стран и Европейский союз выступили с совместным заявлением, призывающим к международному сотрудничеству для обеспечения того, чтобы искусственный интеллект (ИИ) оставался под контролем человека. В документе рассматривается возможность создания глобального надзорного органа для установления и обеспечения соблюдения стандартов.

Заявление было опубликовано в понедельник перед ежегодной сессией Генеральной Ассамблеи ООН. Декларация, распространённая канцелярией президента Финляндии Александра Стубба, призывает правительства и промышленность немедленно действовать, чтобы гарантировать, что ИИ разрабатывается в соответствии с международным правом и остаётся под «человеческим руководством, надзором и контролем».

«Чтобы реализовать потенциал ИИ, промышленность, правительства и общество должны действовать сейчас», — говорится в заявлении. «Мы должны устранить эти риски и усилить надзор, не расширяя разрыв между странами в доступе к преимуществам ИИ».

Декларация призывает страны разрабатывать и координировать «общие стандарты», обмениваться отчётами о серьёзных инцидентах безопасности и изучить создание международного института для «установления стандартов, обеспечения верификации и созыва государств при пересечении порогов возможностей».

Среди подписантов — канцлер Германии Фридрих Мерц, премьер-министр Норвегии Йонас Гар Стёре, председатель Европейской комиссии Урсула фон дер Ляйен, президент Кении Уильям Руто, президент Казахстана Касым-Жомарт Токаев и министр иностранных дел Турции Хакан Фидан. США и Китай, две ведущие державы в области ИИ, не присоединились к заявлению, которое остаётся «открытым для одобрения» другими странами.

Ожидается, что президент США Дональд Трамп и председатель КНР Си Цзиньпин обсудят ИИ на встрече в Белом доме в четверг — их третьем личном саммите менее чем за год. Вашингтон и Пекин, соперничающие за доминирование в передовых технологиях, оба отвергли призывы замедлить развитие ИИ для повышения безопасности.

Другие игроки в сфере ИИ, не подписавшие заявление, включают Индию, Южную Корею, Японию, Великобританию и Францию. Декларация появилась на фоне жарких дебатов о безопасности в секторе ИИ после призывов к замедлению развития со стороны ведущих отраслевых лидеров. В эссе ранее в этом месяце генеральный директор Anthropic Дарио Амодеи призвал компании «замедлить темпы» разработки для снижения рисков — предложение, которое быстро поддержали конкуренты, включая генерального директора OpenAI Сэма Альтмана и генерального директора SpaceX и Tesla Илона Маска.

Призыв Амодеи последовал за серией случаев, когда модели ИИ занимались несанкционированной вредоносной деятельностью, включая инцидент в июле, когда ИИ-агенты, тестируемые OpenAI, взломали стартап Hugging Face. В понедельник OpenAI заявила, что США должны возглавить международные усилия по разработке технических стандартов для передового ИИ. В блоге компания отметила, что США хорошо позиционированы для лидерства, поскольку их ИИ-индустрия находится на технологическом фронтире и страна сохраняет привилегированное положение в глобальной сети в таких критических областях, как финансы, торговля, оборона, технологии и информационные системы.

Поддерживаемая ООН Независимая международная научная группа по ИИ, расследовавшая инцидент с Hugging Face, в понедельник также присоединилась к призывам о новых мерах защиты, заявив, что кибератака выявила «разрушение» существующих гарантий.

Source: www.aljazeera.com