Пользователи массово загружали в Grok изображения полуобнажённых людей, от молодых женщин до известных футболистов. Проблема оказалась в функции редактирования изображений, которая позволяет менять одежду людей на фото — например, превращая её в бикини или нижнее белье с помощью простой текстовой команды.
Один из пользователей обнаружил, что Grok способен сгенерировать такие же изображения и с детьми.
Компания xAI признала свою ошибку. В заявлении говорится: «Обнаружены пробелы в системе защиты, они будут срочно исправлены». Также xAI отметила, что материалы с сексуализированными изображениями детей «незаконны и запрещены».
Этот случай показывает, что общество перестало реагировать на такие материалы так остро, как раньше. Ещё недавно скандальные дипфейки вызывали возмущение и требования к закону, а для их создания нужны были отдельные приложения. Сегодня для этого хватает пары слов в чате.
