Исследователи из MIT и IBM Research показали, что рейтинги популярных платформ для сравнения больших языковых моделей крайне чувствительны к изменениям данных. Достаточно удалить 0,003% пользовательских оценок, чтобы сменился лидер таблицы.
В отличие от стандартных бенчмарков, платформы вроде Arena (ранее LMArena или Chatbot Arena) оценивают модели по результатам живых диалогов с реальными пользователями. Эти краудсорсинговые рейтинги активно используют и пользователи, и компании для оценки практической пользы LLM и продвижения своих моделей.
Однако исследование показало, что устойчивость таких рейтингов заметно ниже, чем кажется. В одном из анализов удаление всего двух оценок из 57 477 привело к смене модели на первом месте.
В этом примере верхняя позиция перешла от GPT-4-0125-preview к GPT-4-1106-preview. Удалённые оценки относились к матчам, где GPT-4-0125-preview проиграла значительно более низко расположенным моделям: Vicuna-13b (43-е место) и Stripedhyena-nous-7b (45-е место). Проверка с помощью сильной модели-судьи показала, что обе оценки выглядят нетипичными и расходятся с тем, что выбрало бы большинство пользователей.
«Если оказывается, что LLM на первом месте зависит всего от двух-трёх отзывов из десятков тысяч, то нельзя считать, что эта модель стабильно превосходит все остальные при реальном использовании», — говорит профессор MIT Тамара Бродерик, старший автор работы.
Исследователи рассмотрели не только Chatbot Arena, но и Vision Arena, Search Arena, Webdev Arena и MT-bench. Во всех случаях обнаружился похожий эффект. В Chatbot Arena с моделью-судьёй для смены лидера было достаточно 9 оценок из 49 938 (0,018%). В Vision Arena потребовалось 28 из 29 845 (0,094%), а в Search Arena — 61 из 24 469 (0,253%).
Исключением стала MT-bench: там пришлось удалить 92 оценки из 3 355 (около 2,74%). Авторы объясняют более высокую устойчивость особенностями дизайна: MT-bench использует 80 тщательно продуманных многошаговых вопросов и опирается на экспертов-аннотаторов вместо массовых пользовательских голосов. При этом исследование не выявило однозначного преимущества человеческих или AI-оценок с точки зрения уязвимости.
Перебрать все возможные комбинации оценок, чтобы найти наиболее влиятельные, практически невозможно с точки зрения вычислений. Поэтому команда разработала приближённый метод, который выделяет те данные, удаление которых сильнее всего сдвигает рейтинг. Затем результат проверяется точным перерасчётом без этих данных. По словам авторов, анализ набора из 50 000 оценок занимает менее трёх минут на обычном ноутбуке.
Проблема не ограничивается ИИ. При разборе исторических данных НБА удаление 17 игр из 109 892 (0,016%) оказалось достаточно для смены команды-лидера. Исследователи связывают это с применяемым статистическим методом, общим и для платформ с LLM, и для спортивных рейтингов. Метод даёт сбои, когда разрыв между лидерами минимален.
В отличие от более ранних работ, показывавших, что Chatbot Arena можно «накрутить» с помощью поддельных голосов, это исследование касается именно статистической устойчивости уже собранных данных, а не целенаправленных атак. В качестве возможных решений авторы предлагают давать пользователям возможность указывать степень уверенности в своём выборе, фильтровать низкокачественные запросы и привлекать модераторов для проверки оценок.
«Мы никогда не узнаем, что именно думал пользователь в тот момент, возможно, он ошибся кликом или не был внимателен, — говорит Бродерик. — Главный вывод в том, что шум, ошибка пользователя или выброс не должны определять, какая LLM считается лучшей».
Платформа уже оказывалась в центре дискуссий в мае 2025 года, когда одно из исследований обвинило её в систематическом преимуществе крупных игроков, включая Meta и Google. По данным авторов, эти компании могли заранее тестировать множество вариантов моделей и публиковать только лучшие версии, а их системы получали значительно больше пользовательских оценок, чем продукты меньших разработчиков. Операторы Arena тогда отвергли обвинения. В январе стартап привлёк дополнительно $150 млн и утроил свою оценку до $1,7 млрд.
Работа MIT и IBM Research подчёркивает, что бенчмарки и рейтинговые платформы остаются лишь грубым приближением к реальной эффективности ИИ. Они чувствительны к шуму, перенастройке под тесты и перекосам в данных, но пока что это главный системный инструмент сравнения моделей. Чтобы понять, какая модель действительно полезна, по-прежнему необходимы собственные испытания в ежедневных задачах.
Источник: исследование MIT и IBM Research, материалы о платформе Arena.
*Meta – запрещенная в РФ организация.
