Европейский парламент выступил за запрет созданного ИИ материала с сексуальным насилием над детьми (CSAM) в рамках нового закона из-за быстро растущей угрозы.
По данным Internet Watch Foundation (IWF), в 2023 году был обнаружен первый случай такого контента, созданного искусственным интеллектом. За год количество случаев выросло на 380% — в 2024 году зафиксировано 245 инцидентов с более чем 7 600 изображениями и видео.
IWF отмечает, что самая тяжелая категория насилия (Категория A по британскому закону) составляет почти 40% такого контента, что почти вдвое выше, чем в классических случаях. Около 98% синтетического материала изображает девочек — это чуть больше, чем общий показатель (97%) во всех типах CSAM.
По данным IWF, злоумышленники используют текст-в-изображение генераторы и приложения для “обнажения”. Современные ИИ-системы способны создавать очень реалистичные короткие видео.
Технический директор IWF Дэн Секстон заявил: «Сейчас мы видим, как высокореалистичные изображения насилия создаются с минимальными техническими навыками. Эта технология используется для нанесения реального вреда детям». В некоторых случаях, по его словам, ИИ обучают на реальных материалах насилия.
В настоящее время законодательства ЕС не содержит прямого запрета на синтетический контент такого рода. В новом проекте Директивы о насилии над детьми (CSAD) парламентарии настаивают на полном криминализации ИИ-CSAM, включая хранение для «личного пользования», и отвергают любые исключения. Также они требуют четких определений, эффективных инструментов для поиска и более тесного международного сотрудничества между полицией и службами защиты детей.
Позиция Совета ЕС подвергается сильной критике. В текущей версии проекта CSAD предлагается разрешить хранение ИИ-контента с насилием над детьми для «личного пользования» — IWF назвала это «крайне опасной лазейкой».
IWF и другие организации требуют закрыть эту лазейку и напоминают, что «не существует безвредного насильственного контента». Кроме того, появление ИИ-CSAM усложняет выявление настоящих случаев насилия. Организация также настаивает на полном запрете инструкций, руководств и моделей для создания CSAM, а также на улучшении поддержки пострадавших.
Обсуждение Директивы в ЕС продолжается.
