X Илон Маска стал лидером по несанкционированным дипфейкам

Платформа X Илона Маска стала основным каналом для распространения созданных ИИ изображений, на которых людей раздевают без их согласия.

За 24 часа чат-бот Grok сгенерировал около 6 700 изображений в час, которые были помечены как сексуально провокационные или откровенные. Об этом рассказала исследователь социальных сетей и дипфейков Женевьев О, её цитирует Bloomberg.

По данным О, масштабы злоупотребления Grok на платформе X огромны. Для сравнения, специализированные сайты публикуют только 79 новых подобных изображений в час, а Grok создаёт их в десятки раз больше. Пользователи намеренно используют чат-бота, чтобы раздевать людей на фото по текстовой команде. Среди жертв — дети. Компания xAI обещала добавить ограничения для защиты, но кейс показывает тревожное распространение насилия с помощью генеративного ИИ.

Источник

Оцените статью
Gimal-Ai