LinkedIn усиливает борьбу с низкокачественным контентом, созданным ИИ. Платформа внедряет новые системы обнаружения таких публикаций и развивает фильтр верификации, чтобы пользователям было проще распознавать ботов и фальшивые профили.
Компания заявила, что хочет сократить распространение так называемого AI slop — текстов, которые выглядят аккуратно, но не содержат полезной мысли. Об этом в блоге LinkedIn написала вице-президент и главный редактор глобальной редакции компании Лора Лоренцетти.
«Когда ИИ используют слишком часто, особенно в большом масштабе и в автоматическом режиме, это размывает ценность идей, которые могут появляться в реальных разговорах между людьми», — пишет Лоренцетти.
При этом, по ее словам, ИИ как инструмент для письма допустим, если публикации и комментарии сохраняют голос и взгляд конкретного человека. «Ваши посты и комментарии должны передавать ваш голос и ваши взгляды», — отметила она.
Для этого LinkedIn использует новые технические системы, обученные вместе с собственной редакционной командой. Как утверждает компания, они находят тексты, которые «похоже, созданы ИИ и не содержат ясной позиции», и со временем должны работать точнее.
Цель системы — отличать материалы, которые дают контекст, опыт или новый взгляд, от публикаций, которые выглядят шаблонными или повторяющимися.
Под новые меры подпадают не только посты, но и комментарии. Речь идет о сообщениях, массово созданных через инструменты автоматизации почти без участия человека, а также об ответах, которые просто повторяют исходный пост и ничего не добавляют.
Если система пометит контент как созданный ИИ и слабый по смыслу, его охват снизят. Вместо широкого показа в ленте других пользователей такие публикации будут в основном оставаться внутри сети контактов автора.
По данным LinkedIn, в первых тестах система правильно определяла шаблонный контент в 94% случаев. Компания также утверждает, что пользователи уже сообщают о сокращении числа таких публикаций.
При этом LinkedIn не привела данных, которые можно было бы независимо проверить. Также компания не раскрыла, как часто система может ошибочно помечать обычные публикации как AI slop.
Помимо фильтрации контента, LinkedIn усиливает борьбу с фальшивыми аккаунтами. По словам Лоренцетти, боты и поддельные профили, созданные с помощью ИИ, снижают качество живого взаимодействия на платформе.
В этом LinkedIn делает ставку на систему верификации. Компания утверждает, что более 100 млн пользователей уже прошли проверку.
Источник: The Decoder, блог LinkedIn.
