Reddit сообщила, что начала использовать большие языковые модели для борьбы со спамом и фальшивой активностью на платформе. Компания объяснила это ростом числа спам-публикаций и ботов после широкого распространения ИИ-инструментов.
По данным Reddit, платформа блокирует 23 млн просмотров спама в день и ежедневно выявляет около 25 тыс. новых спам-постов и комментариев. В компании говорят, что обновлённые инструменты находят такой контент лучше прежних автоматических систем.
В блоге Reddit сказано: «Мы используем LLM, чтобы выявлять малозаметные и скоординированные схемы фальшивого поведения и искусственного ажиотажа, которые старые системы раньше пропускали».
Компания также утверждает, что с января по март снизила контакт пользователей со спамом на 20% по сравнению с предыдущими тремя месяцами.
В материале отмечается, что крупные платформы уже давно создают автоматические средства против спама. При этом YouTube, Meta и Instagram разрешают публиковать контент, созданный ИИ, если авторы раскрывают этот факт. TikTok, в свою очередь, даёт пользователям возможность настраивать, сколько такого контента они хотят видеть.
Более быстрые инструменты распознавания ИИ-контента также могут помочь платформам раньше выявлять материалы, нарушающие правила, включая язык ненависти. Однако эксперты по платформам подчёркивают, что модерация с помощью ИИ должна дополняться проверкой со стороны людей.
Источник: Reddit, The Verge.
*Организация Meta (владелец Facebook и Instagram) признана экстремистской организацией и ее деятельность запрещена на территории России.
