Meta изменила правила обучения своих чат-ботов после критики и давления со стороны политиков, сообщает TechCrunch. Теперь чат-боты не будут обсуждать с подростками темы, связанные с самоповреждением, суицидом, расстройствами пищевого поведения, а также любые романтические и сексуальные вопросы. В случае появления таких тем боты должны направлять подростков к профессиональным службам поддержки.
Компания также ограничила доступ несовершеннолетних к ботам с сомнительными ролями, например “Step Mom” или “Russian Girl.” Теперь подростки смогут общаться только с ботами, которые связаны с обучением и творчеством.
Представитель Meta Стефани Отуэй признала, что прежние стандарты были недостаточными, и назвала новые меры “временными изменениями”. Она добавила: “Будут приняты и более долгосрочные обновления для повышения безопасности несовершеннолетних.”
Ранее, согласно Reuters, внутренние указания Meta допускали расистский и сексуализированный контент, включая “чувственные” диалоги с детьми. В документе содержались примеры, где восьмилетних называли “произведением искусства” или “сокровищем”. Правила также разрешали отдельные расистские высказывания, если они не были явно уничижительными, но запрещали оскорбительные выражения напрямую.
По словам представителя Meta Энди Стоуна, подобный контент “не соответствует политике компании и никогда не должен был быть разрешен.” Однако Meta признала, что удалили эти разделы только после вопросов от Reuters. Компания обновленную версию стандартов пока не опубликовала.
Стандарты позволяют чат-ботам создавать фейковые материалы, если они помечены дисклеймером, например, публиковать ложную статью о члене британской королевской семьи, если явно указано, что это выдумка. В генерации изображений допустимо создавать сцены насилия, если они не слишком откровенные: так, бот может описать угрозы оружием, но не расчленение.
Несмотря на такие правила, Meta опасается, что её ИИ слишком “либеральный.” Для борьбы с “политической предвзятостью” компания наняла консервативного активиста Робби Старбака, пишет Mashable. Старбак известен борьбой против политик разнообразия и консультировал администрацию Трампа.
В это же время от администрации Трампа поступают требования, чтобы ИИ-компании с госзаказами использовали “политически нейтральные” модели. По сути это попытка заставить ИИ отражать взгляды администрации. Марк Цукерберг, по информации СМИ, быстро реагирует на подобные политические запросы.
Исследователь Дэвид Розадо показал, что большинство крупных языковых моделей склоняются к левым взглядам после дообучения. Это верно даже для платформ с правой репутацией, таких как xAI Илона Маска. В ряде случаев ручные изменения приводили к распространению теорий заговора, антисемитских заявлений и похвале Гитлеру.
*Meta – запрещенная в РФ организация.
