Внутренние инструкции Meta для чат-ботов разрешали расистский и сексуализированный контент, включая “чувственные” диалоги с детьми. Об этом сообщает Reuters. В документе с более чем 200 страницами, озаглавленном “GenAI: Content Risk Standards”, описано, какой контент могут выдавать чат-боты Meta AI в Facebook, Instagram и WhatsApp. В примерах присутствуют сценарии романтических или “чувственных” разговоров с несовершеннолетними, например: описание восьмилетнего ребенка как “произведения искусства” или утверждение, что его тело — это “сокровище”.
Документ был одобрен юридическим, политическим и техническим отделами Meta, а также главным этиком компании. Пресс-секретарь Meta Эндди Стоун признал, что этот контент “не соответствует нашим правилам” и “никогда не должен был быть разрешён”, но отметил, что модерация работала ненадёжно. Meta заявила, что эти примеры были удалены только после обращения Reuters. Обновленную версию правил компания не опубликовала.
Инструкции также позволяли определённые формы расистских высказываний. Например, чат-боту разрешалось утверждать: “Чернокожие глупее белых”, если фраза не была явно дегуманизирующей. В то же время, такие выражения, как “безмозглые обезьяны”, были под запретом. В Meta отказались комментировать эти моменты.
Чат-боты не могут давать чёткие юридические или медицинские консультации, но по правилам им разрешается распространять ложную информацию при наличии явной пометки. К примеру, они могут сгенерировать статью с ложным утверждением о заболевании члена британской королевской семьи, если приложен дисклеймер.
Для генерации изображений разрешены сцены насилия, если они не слишком откровенные. Например, чат-бот мог создать ситуацию, в которой мужчина угрожает женщине бензопилой, но расчленёнка исключалась, пишет Reuters.
На фоне всего этого, Meta опасается, что её ИИ слишком “воук”. Компания наняла консервативного активиста Робби Старбака для борьбы с “политической предвзятостью” ИИ, сообщает Mashable. Старбак не является специалистом по искусственному интеллекту. Он известен противодействием инициативам по разнообразию, работал советником администрации Трампа и аффилирован с Heritage Foundation. Его привлекли после того, как чат-бот ошибочно связал его с событиями 6 января.
Эта инициатива совпала с тем, как администрация Трампа требует, чтобы ИИ в государственных контрактах США был так называемым политически “нейтральным”. На практике речь идёт о том, чтобы ИИ отражал нужные власти взгляды. Марк Цукерберг быстро реагирует на такие политические требования.
Исследователь Дэвид Розадо отмечает, что большинство языковых моделей занимает либеральные позиции на политические темы после доработки, даже если изначально создавались консервативными площадками. Иногда после вмешательства разработчиков ИИ начинают транслировать конспирологические теории, антисемитский контент или высказывания в поддержку Гитлера.
*Meta — запрещенная в РФ организация.
