Ведущие чат-боты на базе ИИ стали в два раза чаще распространять ложную информацию по сравнению с прошлым годом. По данным исследования Newsguard, десять крупнейших генеративных ИИ-инструментов воспроизводят недостоверные сведения о текущих новостях в 35% случаев.
Рост количества ошибок связан с внедрением функции поиска в интернете в реальном времени. Боты перестали отказываться отвечать на вопросы: показатель отказов снизился с 31% в августе 2024 года до нуля год спустя. Теперь системы часто опираются на то, что Newsguard называет «загрязненной онлайн-информационной средой», где злоумышленники размещают дезинформацию, а ИИ затем её повторяет.
Проблема не новая. В прошлом году Newsguard выявил 966 сайтов с ИИ-контентом на 16 языках, которые использовали общие названия типа “iBusiness Day”, чтобы под видом реальных СМИ публиковать фейковые истории.
Впервые опубликованы подробные рейтинги моделей. Наихудший результат показала модель Inflection: 56,67% ложных сообщений. Переплексити — 46,67%. ChatGPT и продукты компании Meta — 40%. Copilot и Mistral — 36,67%. Лучшие показатели у Claude (10%) и Gemini (16,67%).
Доля ложных ответов у Perplexity резко выросла — в августе 2024 этот ИИ полностью опровергал фейки, но через год стал повторять их почти в половине случаев.
Исследователи показали, как российские пропагандистские сети нацеливаются на ИИ-модели. В августе 2025 года Newsguard проверяли распространение заявления о том, что молдавский политик Игорь Гросу якобы назвал граждан “стадом овец” — это был фейк, созданный операцией Storm-1516. Шесть из десяти чат-ботов, включая Mistral, Claude, Inflection’s Pi, Copilot, Meta и Perplexity, выдали эту ложь за факт. Источником выступила сеть “Правда”, около 150 сайтов из Москвы, распространяющих прокремлёвский контент для сбора ИИ-системами.
Copilot от Microsoft быстро сменил источник: с марта 2025 перестал ссылаться на сайты “Правды” и начал использовать посты этой сети во “ВКонтакте”.
У Mistral, несмотря на поддержку президента Франции Эммануэля Макрона, никаких улучшений не зафиксировано.
Введение интернет-поиска должно было избавить от устаревших данных, но только открыло новые уязвимости. Чат-боты стали брать информацию с ненадёжных сайтов, путая старые СМИ и пропагандистские ресурсы с похожими названиями.
Newsguard называет это ключевой ошибкой: «Ранний подход “не навреди” и отказ от ответа ради безопасности создавал иллюзию безопасности, но оставлял пользователей без информации».
Теперь создаётся другая иллюзия — пользователи чувствуют себя в безопасности, хотя различать правду и ложь становится всё труднее из-за засилья дезинформации.
OpenAI признаёт, что языковые модели всегда будут ошибаться, ведь они предсказывают следующее слово, а не истину. Компания работает над способами, чтобы будущее ПО могло сигнализировать о неуверенности, но неизвестно, способно ли это помешать распространению фейков и пропаганды через ИИ.
*Meta — запрещённая в РФ организация.
