Компания Илона Маска xAI ограничила генерацию изображений в чате Grok после жалоб регуляторов и пользователей. Теперь всем пользователям запрещено изменять фотографии реальных людей в откровенной одежде, такой как купальники. Генерация изображений стала доступна только платным подписчикам.
В странах, где это запрещено законом, X блокирует создание изображений реальных людей в нижнем белье или подобной одежде. Компания заявляет о “нулевой терпимости к любым формам эксплуатации детей, публикации интимных фото без согласия и нежелательному сексуальному контенту”. X сообщает о таких случаях в правоохранительные органы “по мере необходимости”, но не объяснила, что это значит.
Эти меры приняты после протестов из-за того, что пользователи массово использовали Grok для цифрового «раздевания» женщин и детей по текстовым подсказкам. По данным исследователя Геневьев О, раньше Grok создавал примерно 6700 подобных изображений в час.
На компанию повлияли требования властей и расследование британского регулятора Ofcom, который рассматривает, нарушила ли X закон о безопасности в интернете, разрешая такие снимки с участием детей. За нарушение грозит штраф до 18 миллионов фунтов или 10% мирового оборота.
В США Сенат единогласно поддержал закон “Defiance Act”. Он позволит жертвам публикации интимных ИИ-изображений без согласия обращаться в суд на виновных. Законопроект ещё ждёт одобрения в Палате представителей.
По словам представителя правительства Великобритании, из-за этих мер требования страны были удовлетворены. В Ofcom назвали шаг X “положительным развитием”.
Кроме того, X меняет правила для разработчиков: больше не разрешены приложения с вознаграждениями за публикации на X (“infofi”-приложения), потому что они засоряли платформу спамом на базе ИИ. Доступ к API для многих из них уже заблокирован, сообщил менеджер Никита Бир.
