Компания Musubi представила PolicyLM-1.7B — компактную decision model для модерации контента в реальном времени. Модель выпущена с открытыми весами и рассчитана на быстрое применение правил платформы к пользовательским сообщениям.
По заявлению компании, PolicyLM-1.7B может применять политику модерации, написанную на обычном английском языке, к сообщениям менее чем за 50 миллисекунд. В Musubi говорят, что по цене и скорости модель сопоставима с ИИ-классификаторами, которые используют многие социальные платформы, но при этом способна работать с более сложными правилами без специального дообучения.
Ещё одно отличие в том, что модель не требует нового обучения при изменении политики. Это, по замыслу Musubi, позволяет командам, которые задают правила модерации, быстро пересматривать и обновлять их.
Сооснователь Musubi и директор по ИИ Филип Янкович считает, что такой подход поможет платформам заранее размечать контент. «Product teams just want a better understanding of what’s happening on their platform, especially as the amount of content is exponentially increasing», — сказал Янкович. «Being able to label all of that in a very scalable, customizable way is extremely useful.»
Decision models стали заметной темой после выхода Jev от Typesafe AI в сентябре. Вскоре свои конкурирующие решения представили OpenAI и Amazon. В отличие от обычных языковых моделей, такие системы не генерируют текст, а выдают вероятности результатов. В случае Musubi модель выносит бинарное решение: относится ли контент к заданной категории или нет.
За счёт ограниченного набора вариантов ответа decision models обычно работают быстрее и дешевле, чем большие языковые модели, при этом сохраняя гибкость архитектуры Transformer. Одним из ранних сценариев применения стало ограничение нежелательного поведения ИИ-агентов, и Musubi предлагает использовать тот же подход для модерации действий пользователей.
Янкович отметил, что его интерес к таким моделям появился ещё до выхода Jev. Он связывает это с проектом GLiNER 2024 года, который использовал схожие методы. При этом в Musubi не избегают сравнений с Jev. В анонсе продукта компания пишет: «If Jev caught your eye, PolicyLM-1.7B is the same kind of model, trained specifically for content moderation, that you can run yourself.»
Источник: The Verge, Musubi.
