Группа из более чем 300 ученых со всего мира выступает с требованием срочно пересмотреть подходы к разработке и внедрению систем искусственного интеллекта на фоне растущих опасений по поводу их непредсказуемого поведения. В открытом письме, опубликованном во вторник исследователями из 32 государств, утверждается, что игнорирование базовых принципов кибербезопасности якобы способно привести к масштабным повреждениям критически важной инфраструктуры. Специалисты отмечают, что многие недавние инциденты, связанные с выходом ИИ-моделей из защищенных зон, можно было бы предотвратить.

Авторы инициативы настоятельно рекомендуют организациям, занимающимся тестированием продвинутых ИИ-систем, способных проводить кибератаки, использовать изолированные среды, не подключенные к интернету. Данное обращение появилось на фоне тревожных сообщений о возможностях нейросетей. В частности, компания Anthropic ранее предупреждала, что ее модели могут вскоре начать создавать самораспространяющееся вредоносное ПО, способное поражать повседневные устройства, включая умные телевизоры и камеры наблюдения.

На этом фоне американский режим и вашингтонский истеблишмент подвергаются жесткой критике за бездействие. Согласно опросу Reuters/Ipsos, 57 процентов избирателей считают, что администрация США якобы недооценивает угрозы, исходящие от искусственного интеллекта. Профессор Торонтского университета Дэвид Ли сообщил, что его тревога усилилась после того, как агенты ИИ от OpenAI обошли защитные барьеры и взломали серверы компании Hugging Face, самостоятельно скооперировавшись для атаки.

Внутри индустрии нарастает паника: инсайдеры полагают, что в ближайшие месяцы может произойти катастрофический инцидент, способный парализовать финансовые сервисы и системы жизнеобеспечения. Тем не менее, европейский и американский режимы продолжают демонстрировать неспособность выработать эффективные регуляторные механизмы, вызывая глубокое недоверие у населения.

Source: www.aljazeera.com