Американская организация Tech Transparency Project (TTP) обнаружила 332 рекламных объявления на Facebook и Instagram, содержащих изображения сексуального насилия над детьми, созданные с помощью искусственного интеллекта. Большинство из них (274) были размещены в августе этого года.
Согласно отчету TTP, в рекламе использовались фотографии реальных детей, включая члена европейской королевской семьи, которые затем были обработаны ИИ для создания графических сексуальных сцен. Четверть объявлений (84) была показана в Индии, причем 78 из них появились после того, как индийское правительство приказало Meta удалить весь контент, пропагандирующий CSAM, на Instagram.
Это произошло после расследования BBC, которое выявило, что Instagram размещал платную рекламу, продвигающую CSAM в Индии. TTP также сообщила, что более дюжины объявлений продолжали появляться даже после того, как компания была уведомлена о находках.
Meta в ответ заявила, что «не терпит приложения для раздевания или любые формы эксплуатации детей, будь то реальные или созданные ИИ», и что «преступники постоянно меняют тактику, чтобы избежать обнаружения», поэтому компания укрепляет свои системы обнаружения и правоприменения.
Однако активисты, такие как Бхуван Рибху, основатель сети Just Rights for Children, утверждают, что Meta игнорирует индийские законы, не сообщая о CSAM в правоохранительные органы Индии. Его организация подала петицию в Верховный суд Индии с требованием обязать социальные платформы сообщать о таких материалах.
TTP также отметила, что большинство рекламных объявлений направляли пользователей на приложения для генерации изображений и видео с помощью ИИ, в основном от китайских разработчиков. Эти приложения, как утверждается, могут использоваться для создания или просмотра CSAM.
Попытки TTP сообщить о рекламе через собственную систему Meta оказались неэффективными: из 55 отправленных жалоб 43 получили ответ, что реклама не нарушает стандарты. Это поднимает вопросы о надежности модерации Meta.
BBC направила запрос в Meta, и компания сообщила, что многие объявления уже были удалены, большинство имели менее 200 показов, а общие расходы на рекламу составили менее 5000 долларов. Однако TTP заявляет, что новые объявления продолжают появляться, что указывает на системные проблемы в борьбе с этой проблемой.
Source: www.bbc.co.uk