Битва за Палестину никогда не велась только на земле. На протяжении десятилетий Израиль и его мощные политические, лоббистские и PR-сети тратили огромные ресурсы на формирование того, как конфликт понимается в Вашингтоне и во всем западном мире. Однако расследование операции влияния, финансируемой Израилем, показывает, что эта кампания вступила в новую и потенциально более значимую сферу: системы искусственного интеллекта, которые миллионы людей все чаще используют для определения истины.

Недавние расследования раскрыли Ганноверский институт публичной политики как якобы американский аналитический центр, у которого, по-видимому, не было реальных офисов, известных ученых или значимого институционального присутствия. Вместо этого институт, судя по всему, был создан как сложная пропагандистская операция, направленная на формирование результатов поисковых систем и влияние на ответы, генерируемые ИИ-чат-ботами.

Документы, поданные в соответствии с Законом о регистрации иностранных агентов (FARA), прослеживают финансирование операции через рекламные и PR-фирмы до LaPam, государственного рекламного агентства Израиля. Нью-йоркская рекламная фирма Piro Inc, участвовавшая в этом, работала по заказу на цифровые коммуникации на сумму 900 000 долларов на израильском счете.

Что делает этот случай экстраординарным, так это не просто то, что операция, финансируемая израильским правительством, пыталась влиять на общественное мнение. Правительства всегда это делали. Отличие заключается в очевидной попытке повлиять на машины, которые все больше формируют общественное мнение.

Всего за девять дней веб-сайт Ганновера, по сообщениям, произвел более 560 000 слов в 124 академических отчетах. Материал был структурирован вокруг вопросов, которые, вероятно, будут заданы системам ИИ, включая вопрос о том, сталкивается ли Газа с политикой голода и является ли израильская армия «самой моральной армией в мире».

Piro продает этот подход как «оптимизацию историй для ИИ», предназначенную для того, чтобы сделать материал высоко заметным для поисковых систем и легко усваиваемым для больших языковых моделей. Сайт также включал технические функции, предназначенные для облегчения поиска и обработки материала системами ИИ.

Таким образом, цель заключалась не просто в убеждении читателей. Она заключалась во влиянии на алгоритмы, которые все больше определяют, какую информацию получают эти читатели. Это представляет собой фундаментальный сдвиг в пропагандистской игре.

Традиционную пропаганду часто можно идентифицировать по ее источнику, тону или очевидной политической повестке. Более сложную пропаганду труднее обнаружить, потому что она маскирует адвокацию под нейтральную экспертизу. Сообщается, что материал Ганновера использовал статистику, таблицы и графики, цитировал легитимные первичные документы и использовал язык академических исследований, при этом выборочно представляя доказательства и опуская внешние ссылки.

Именно такой материал может приобрести искусственную достоверность при потреблении системой ИИ. Студент спрашивает ИИ-чат-бота, использовал ли Израиль голод как оружие в Газе. Журналист запрашивает оценку поведения Израиля в соответствии с международным правом. Избиратель ищет нейтральное объяснение израильско-палестинского конфликта.

Если фиктивному исследовательскому институту удалось внедрить свой материал в информационную экосистему, ответ, сгенерированный ИИ, может воспроизвести его рамки, и пользователь никогда не узнает, что источник был сфабрикован. Этот риск не просто гипотетический: в тестах Politico и ChatGPT, и Perplexity цитировали материал Ганновера в ответ на нейтральные вопросы о Газе, антисионизме и антисемитизме.

Машина не обязательно понимает, что якобы авторитетный институт является фиктивным. Она видит текст, цитаты, статистику и повторяющиеся утверждения. Если эти материалы были намеренно оптимизированы для обнаружения и синтеза, пропаганда может приобрести вид независимого знания. Именно это делает эпизод таким тревожным.

На протяжении многих лет Израиль и его сторонники боролись за формирование лексики, с помощью которой обсуждаются палестинцы. «Безопасность», «терроризм», «самооборона» и право Израиля на существование часто доминировали в разговоре, в то время как оккупация, расширение поселений, лишение собственности, блокада и самоопределение палестинцев боролись за сопоставимый политический вес.

Цифровая эпоха изначально, казалось, предлагала палестинцам способ обойти традиционных привратников. Социальные сети, независимая журналистика и видео, снятые самими палестинцами, позволяли информации из Газы и оккупированных территорий достигать глобальной аудитории, минуя устоявшиеся медиаинституты.

Теперь ответ, по-видимому, движется глубже: не просто контроль над тем, что люди видят, но и попытка влиять на системы, определяющие, какую информацию они получают. Это гораздо более амбициозная форма нарративной войны.

Раскрытие FARA особенно важно, потому что оно демонстрирует, почему требования прозрачности имеют значение. Сообщается, что следователи проследили операцию Ганновера через документы, поданные Piro, которые описывали работу над веб-сайтом института. След вел через немецкую операцию Havas Media, которая, как сообщается, вела гораздо более крупный счет израильского правительства, и в конечном итоге к LaPam.

Бумажный след важен, потому что иностранное влияние становится особенно опасным, когда оно замаскировано под независимую американскую экспертизу. Американцы имеют право знать, когда якобы нейтральная исследовательская организация на самом деле является частью коммуникационной стратегии иностранного правительства. Но этот инцидент раскрывает уязвимость, выходящую далеко за пределы этого конкретного конфликта.

Системы искусственного интеллекта не имеют независимого окна в реальность. Они зависят от информационных экосистем, созданных людьми. Если правительства, корпорации или политические организации могут намеренно заполнять эти экосистемы стратегически созданным материалом, они могут влиять на информацию, из которой системы ИИ строят свои ответы.

Палестина является особенно показательным испытательным полигоном, потому что конфликт уже разворачивается в чрезвычайно конкурентной информационной среде. Его документальная история охватывает десятилетия оккупации, поселений, перемещений, войн, ограничений, гуманитарных кризисов, дипломатических инициатив и международных расследований.

Надежная информационная система должна знакомить пользователей с этой сложностью. Сложная пропагандистская система стремится управлять ею. Вот почему дело Ганновера должно касаться гораздо большего числа людей, чем тех, кто следит за израильско-палестинским конфликтом. Если иностранное правительство или его подрядчики могут создать фиктивный аналитический центр для влияния на системы ИИ сегодня, другие правительства, политические кампании, корпорации и богатые группы интересов могут попытаться провести аналогичные операции завтра.

Прецедент больше, чем Израиль. Но предполагаемая роль Израиля делает этот эпизод особенно показательным, потому что он показывает, как устоявшаяся лоббистская и PR-инфраструктура может адаптироваться к новой технологической среде. Битва больше не ограничивается Конгрессом, телевизионными сетями, газетами, университетами или социальными сетями.

Она перемещается в саму архитектуру знаний. Вопрос, стоящий перед ИИ-компаниями, поэтому неотложен: Кто учит машины тому, что говорить нам о Палестине – и о мире? Разработчикам ИИ нужны более надежные меры защиты от скоординированных операций влияния, фиктивных институтов и синтетических исследовательских корпусов.

Поисковые системы должны улучшить свою способность отличать подлинную институциональную экспертизу от веб-сайтов, созданных в первую очередь для манипулирования алгоритмами. Журналисты и ученые должны тщательно проверять источники, которые выглядят авторитетно, но не имеют проверяемых институциональных оснований. Правительства должны обеспечивать соблюдение требований о раскрытии информации иностранными агентами, когда иностранные государства стремятся формировать американский общественный дискурс.

Самое главное, пользователи должны понимать, что ответ, сгенерированный ИИ, не является автоматически независимой оценкой. Он отражает информацию, доступную системе, – и эта информация может быть намеренно сконструирована. Расследование Ганновера поэтому следует понимать не просто как еще один эпизод в давней борьбе за имидж Израиля.

Это предупреждение о будущем палестинского вопроса. На протяжении десятилетий Израиль и его сторонники боролись за формирование нарратива вокруг палестинцев с помощью политики, лоббирования, дипломатии и связей с общественностью. Новая граница – алгоритмы. Если цель состоит в том, чтобы создать альтернативную реальность – в которой неудобные факты исчезают, спорные утверждения переосмысливаются как консенсус, а палестинский опыт стирается или переписывается, – поле битвы стало гораздо больше и опаснее. Самая коварная пропаганда может быть уже не тем, что мы признаем пропагандой, а информацией, которую система ИИ уверенно представляет нам как нейтральный факт.

Source: www.aljazeera.com