Meta уже перевела около половины всех запросов на модерацию с участием людей на большие языковые модели и к концу 2025 года хочет довести эту долю до более чем 90% для части типов контента. Об этом сообщает Financial Times.
По данным издания, такой переход может экономить компании миллиарды долларов в год. Meta оспаривает акцент на снижении затрат и заявляет, что главный мотив — качество модерации.
Компания утверждает, что с марта тесты показывают: языковые модели допускают на 13% меньше ошибок, чем люди при применении правил по контенту, и при этом находят на 10% больше реальных нарушений.
В Meta также считают, что такие модели лучше понимают сарказм, контекст и изменения в языке, чем классические системы машинного обучения, и могут работать с большим числом языков.
Сотрудники описывают ситуацию иначе. Один из источников заявил, что модели по-прежнему удаляют или скрыто ограничивают безвредный контент, а контроль за столь быстрым запуском недостаточен.
Переход уже приводит к сокращениям, прежде всего внешних подрядчиков, которые занимались модерацией.
Как пишет Financial Times, параллельно Meta меняет и сами модели для этих задач. Ранее компания использовала Gemini от Google для модерации и поддержки, но недавно поручила сотрудникам перейти на собственную базовую модель Muse Spark.
Для обучения этих моделей используются прошлые решения, которые принимали модераторы-люди.
Источник: Financial Times, The Decoder.
*Организация Meta (владелец Facebook и Instagram) признана экстремистской организацией и ее деятельность запрещена на территории России.
