В отчёте KPMG об использовании ИИ в бизнесе обнаружили выдуманные кейсы. В материале Redefining excellence in the age of agentic AI утверждалось, что ИИ применяют UBS, британская NHS, Swiss Federal Railways и Transport for London, но эти данные не подтвердились.
Ошибки выявила компания GPTZero, а Financial Times проверила выводы. Все организации, упомянутые в отчёте, оспорили приведённые в нём утверждения.
Глава GPTZero Эдвард Тянь заявил, что ошибочные отчёты крупных консалтинговых компаний создают «вторичные галлюцинации». По его словам, такие материалы воспринимаются как очень авторитетные, после чего их начинают повторно использовать и ИИ-системы, и люди.
GPTZero также указала на небрежную работу с источниками, которая, вероятно, и стала причиной проблемы. В отчёте ссылки часто представляли собой вольные пересказы реальных материалов без URL или с неверным указанием авторов. В части случаев найти исходный материал вообще не удалось.
В GPTZero назвали это vibe citing — практикой, при которой ссылки выглядят правдоподобно, но не подтверждают заявленные тезисы. Издание отмечает, что с похожей проблемой сталкиваются и AI Overviews от Google. Ранее суд в Германии признал Google ответственной за такую практику.
KPMG уже удалила отчёт с нескольких сайтов. The Decoder отмечает, что инцидент особенно неприятен для компании: KPMG распространила недостоверные сведения и одновременно показала, что сама плохо контролирует технологию, которую продаёт клиентам.
Источник: The Decoder, Financial Times, GPTZero.
