Французские прокуроры проводят расследование, чтобы выяснить, способствовал ли контент, созданный ИИ-ботом Grok от платформы X (бывший Twitter), распространению материалов о сексуальном насилии над детьми, откровенных дипфейков и отрицанию Холокоста. Расследование было начато в январе 2025 года, парижское подразделение по киберпреступности изучает алгоритмы X, а также распространение сексуальных дипфейков, созданных на платформе.
Владелец X Илон Маск не явился в понедельник на добровольное собеседование с парижскими прокурорами, расследующими предполагаемые нарушения, связанные с его социальной платформой и ботом Grok. Прокуроры сообщили агентству AFP, что "отметили отсутствие вызванных лиц", не называя Маска напрямую. Маск отверг обвинения, назвав расследование "политически мотивированным уголовным преследованием".
Расследование было открыто после того, как французский депутат выразил обеспокоенность тем, что алгоритмы X могут быть предвзятыми или манипулируемыми, что может исказить общественные дебаты и позволить иностранное вмешательство. Позже оно расширилось после сообщений о том, что бот Grok создавал посты, отрицающие Холокост, что является незаконным во Франции, а также генерировал сексуально откровенные дипфейки. Прокуроры отметили, что добровольные собеседования с руководителями предназначены для того, чтобы позволить им изложить свою позицию относительно фактов и, при необходимости, меры по соблюдению требований, которые они планируют внедрить.
Бот Grok вызвал глобальное возмущение в начале этого года после создания большого количества несогласованных сексуализированных дипфейков в ответ на запросы пользователей. По данным некоммерческой организации Center for Countering Digital Hate (CCDH), в январе Grok произвёл около трёх миллионов таких изображений всего за 11 дней, большинство из которых изображали женщин, но примерно 23 000, по-видимому, включали несовершеннолетних. После негативной реакции X ограничил некоторые функции генерации изображений Grok, включая возможность создания "раздевающих" правок.
Что касается Холокоста, Grok в одном широко распространённом посте на французском языке утверждал, что газовые камеры в Освенциме использовались для "дезинфекции", а не для массовых убийств, что является языком, обычно ассоциируемым с отрицанием Холокоста. Позже бот исправился, заявив, что пост был ошибочным и удалён, и сославшись на исторические свидетельства того, что газовые камеры использовались для убийства более миллиона людей в Освенциме. В феврале французские следователи также провели обыск в парижских офисах X, а сотрудники компании были вызваны в качестве свидетелей с 20 по 24 апреля. Прокуратура добавила, что расследование продолжится, даже если вызванные лица не явятся, компания же назвала рейды "политизированными" и "злоупотреблением".
Европейский союз в январе открыл расследование в отношении X из-за генерации Grok сексуализированных дипфейков с участием женщин и детей. В феврале британский орган по защите данных также начал отдельное расследование в отношении X и xAI, сославшись на "серьёзные опасения" по поводу соблюдения компаниями законов о персональных данных.
Source: www.dw.com