Нейросеть — не оракул, которому можно задать вопрос и получить истину, а ассистент, который берет на себя черновую часть проверки: разбивает текст на отдельные утверждения, находит рискованные места, подсказывает, где искать подтверждение. Финальное решение — открыть первоисточник и убедиться самому — всегда остается за человеком. В статье разбираем, какие задачи фактчекинга реально можно доверить ИИ, а какие нет.
Что такое фактчекинг с помощью ИИ
Фактчекинг — это проверка конкретных утверждений на достоверность: кто сказал, когда, откуда взялась цифра, совпадает ли она с оригиналом. Классически этим занимаются вручную редакторы и журналисты, и это медленно. ИИ ускоряет подготовительный этап — структурирует текст, сортирует утверждения по риску, — но не заменяет момент, когда человек открывает первоисточник и читает, что там написано на самом деле.
Хорошая новость в том, что современные модели с доступом в интернет — ChatGPT, Gemini, Claude, Perplexity — умеют давать ссылки прямо в ответе, и это меняет дело: ссылку можно открыть и проверить, действительно ли там написано то, что процитировала модель. Именно на этом принципе строится и режим AI Mode в поиске Google.
Почему нейросети выдумывают факты
Явление называется галлюцинацией — модель выдает правдоподобную, но ложную информацию уверенно и с деталями, иногда со ссылками на источники, которых не существует. Мы подробно разбирали природу этого явления в статье «Галлюцинации ИИ: причины, примеры и способы проверки» — здесь ограничимся тем, что важно знать именно для фактчекинга.
В сентябре 2025 года исследователи OpenAI опубликовали работу «Почему языковые модели галлюцинируют» с выводом: галлюцинации — не случайный сбой, а прямое следствие того, как модели обучают и оценивают. Уверенный ответ система усваивает как более выгодную стратегию, чем честное «не знаю», и переносит эту привычку на реальные запросы. Стэнфордское исследование «Большие юридические выдумки» (Journal of Legal Analysis, 2024) проверило на моделях свыше 800 тысяч верифицируемых юридических вопросов: на узких запросах о реальных судебных делах ChatGPT ошибался в 58% случаев, Llama — в 88%, то есть чаще был неправ, чем прав. По собственным тестам OpenAI на бенчмарке PersonQA в апреле 2025 года модель o3 галлюцинировала в 33% случаев, o4-mini — в 48%, а более старая o1 — только в 16%: более новые «рассуждающие» модели иногда врут чаще именно потому, что делают больше конкретных утверждений, а не меньше.
Реальная цена ошибки — статистика из зала суда
Юрист Дэмьен Шарлотен из HEC Paris с 2023 года ведет публичную базу судебных дел, где сторона опиралась на выдуманные ИИ-материалы — несуществующие прецеденты, фальшивые источники, придуманные цитаты. По данным самой базы на конец августа 2026 года, в ней зафиксировано уже почти 2000 таких случаев, а темп пополнения — около восьми новых дел в день. Точка отсчета — дело Mata v. Avianca 2023 года, где юрист представил суду шесть несуществующих судебных решений, сгенерированных ChatGPT, и получил штраф 5 тысяч долларов; сегодня штрафы за подобное доходят до 15 тысяч долларов на одного адвоката в федеральном апелляционном суде, а часть юристов уже лишили лицензии.
Проблема не ограничивается залом суда. Исследование Калифорнийского университета в Сан-Диего (февраль 2026 года) проверило модели на вопросах о реальных новостных событиях: там, где ответ не был частью обучающих данных модели, доля галлюцинаций достигла 60%. Отдельный бенчмарк по девяти моделям (апрель 2026 года, 5000 промптов) показал, что именно точность цитирования — самая слабая категория среди всех протестированных задач: там, где ссылки на источники важны больше всего, ошибок оказалось больше всего.
Какие задачи реально можно поручить ИИ
ИИ плохо работает оракулом, но хорошо — ассистентом, который берет на себя рутину. Четыре сценария экономят время без риска довериться выдумке.
Разбить текст на проверяемые утверждения. Просите модель отделить факты от мнений и выдать список конкретных тезисов — мнение проверить нельзя, это оценка, а вот «выручка компании выросла на 40% в июне» уже можно сверить с документами.
Выделить рискованные детали. Цифры, даты, имена и прямые цитаты — первые кандидаты на ошибку. Запрос вроде «собери все цифры, даты, имена и прямые цитаты из текста в таблицу» превращает их в готовый чек-лист для ручной сверки, чтобы ничего не потерялось между строк.
Подобрать источники для проверки. Модель может подсказать, каким документом обычно подтверждается тип утверждения — годовым отчетом, реестром, научной статьей, — а дальше человек сам идет по этому следу и проверяет.
Сравнить версии и найти противоречия. Если два материала расходятся в данных, это сигнал, что как минимум один из них ошибается, и оба стоит перепроверить отдельно.
Инструменты и подходы к проверке
Ни один инструмент не работает в одиночку — рабочая проверка почти всегда строится на комбинации нескольких.
Поиск с видимыми ссылками. Правило дойти до первоисточника не менялось десятилетиями — не до пересказа, а до оригинала. Модели с доступом в интернет помогают найти направление поиска, но ссылку нужно открывать и читать самостоятельно: часто она оказывается рабочей, но нужного факта в ней попросту нет — это один из самых распространенных и коварных случаев.
Кросс-проверка между моделями. Задайте один и тот же вопрос двум-трем разным нейросетям. Совпадение ответов — хороший, но не окончательный знак: модели могли обучиться на одних и тех же неверных данных и дружно повторить одну и ту же ошибку. А вот расхождение в фактах — почти всегда красный флаг, указывающий, где стоит проверить вручную в первую очередь.
Отдельная проверка расчетов. С арифметикой у языковых моделей отношения ненадежные, особенно на многоступенчатых вычислениях. Расчеты лучше прогонять отдельно — вручную или через WolframAlpha, который не выдает ссылки, а сам вычисляет точный ответ. Простой пример на внимательность: если в тексте написано, что показатель вырос с 25 до 47 и это «рост на 45%», стоит пересчитать — на деле (47−25)/25 дает 88%, а не 45%. Несовпадение почти всегда означает ошибку в данных или намеренное искажение.
Пошаговый сценарий проверки текста
Рабочий порядок для статьи, новости или отчета выглядит так: сначала разбейте текст на куски по 2–3 тысячи знаков — модель хуже держит контекст на большом объеме и может «забыть» начало текста к концу. Дальше попросите ИИ отделить факты от мнений и составить список проверяемых утверждений, а отдельно — таблицу цифр, дат, имен и цитат. По каждому пункту узнайте у модели, где искать первоисточник, но открывайте ссылку сами, а цитаты сверяйте дословно — даже одно измененное слово способно исказить смысл. Расчеты проверяйте отдельно вручную или через WolframAlpha, а спорные места полезно прогнать через вторую модель: если ответы расходятся, значит, нужно искать первоисточник. Финальный вердикт в любом случае выносит человек — ИИ подготовил материал и предложил направление, но не принял решение.
Признаки того, что нейросеть уверенно ошибается
Несколько тревожных сигналов, на которые стоит обращать внимание в первую очередь: ссылка не открывается или ведет не туда; ссылка живая, но нужного факта в ней нет; цитата выглядит слишком гладкой и «идеальной» — без указания страницы, даты, контекста; ответ меняется при повторном вопросе в новом чате, а значит, модель не знает, а угадывает; модель не может объяснить, откуда взяла факт, и уходит в общие рассуждения; цифры не сходятся при простой перепроверке; разные модели дают разные факты на один и тот же вопрос; и максимально уверенный тон на узкой или редкой теме, где такой уверенности взяться неоткуда. Если сработал хотя бы один из этих признаков, разумно отложить публикацию до ручной проверки.
Что нельзя считать доказательством
Ответ нейросети — не доказательство, даже со ссылками и подробностями: уверенность модели никак не связана с правдой. Согласие нескольких моделей — тоже не доказательство: все они могли обучаться на одних и тех же неверных данных и просто дружно повторить общую ошибку. Наличие ссылки — тоже не доказательство, пока вы ее не открыли и не прочитали лично: упомянутое моделью «исследование Гарварда» вполне может не существовать в природе. Доказательством можно считать только первоисточник, который человек открыл и прочитал сам, — все остальное на этом этапе остается лишь гипотезой, требующей проверки.
Итоги
Нейросети реально ускоряют черновую часть фактчекинга — разбивают текст, находят риски, подсказывают направление поиска. Но галлюцинации заложены в саму механику обучения языковых моделей, и ни новые версии, ни доступ к интернету не устраняют проблему полностью — судебная статистика последних лет это только подтверждает. Рабочее правило простое: использовать ИИ как помощника для подготовки, проверять важное вручную по первоисточнику и не публиковать то, что не подтверждено ничем, кроме слов самой модели.
