Meta и Калифорнийский университет в Сан-Диего представили DeepConf — новый метод для ускорения и повышения точности математических рассуждений в языковых моделях.
Обычно рассуждающие языковые модели разбивают сложные задачи на несколько путей решения, после чего выбирают тот ответ, который встречается чаще всего. Но всем путям присваивается одинаковый вес, даже если некоторые явно ошибочны, а лишние пути расходуют вычислительные ресурсы без гарантии улучшения ответа.
DeepConf оценивает, насколько модель уверена в каждом ходе. Если вероятность концентрируется на одном слове — путь считается уверенным. При неуверенности вероятность распределяется между вариантами. Исследователи отмечают: чем выше концентрация вероятности, тем больше шанс правильного ответа.
Старые методы просто усредняли уверенность за всё решение. DeepConf анализирует отдельные части пути, что позволяет быстрее убирать ошибочные или слабые сегменты.
У DeepConf два режима. В офлайн-режиме сначала создаются все пути решения, затем отбрасываются некачественные. В онлайн-режиме фильтрация идет на лету: генерация останавливается, если уверенность ниже установленного порога. Порог определяется по 16 эталонным маршрутам; в агрессивной версии фильтрация идет по 10% лучших, в консервативной — по 90%.
DeepConf протестировали на пяти открытых моделях (от Deepseek-R1-8B до gpt-oss-120B) на математических соревнованиях AIME24/25, HMMT25, BRUMO25 и задачах на научное мышление.
В задаче AIME 2025 DeepConf показал 99,9% точности (gpt-oss-120B, офлайн), а в онлайн-режиме — 97,9% точности и снижение количества токенов на 84,7% по сравнению со стандартным методом голосования. Каждый тест повторяли 64 раза для надежности. В агрессивном режиме сокращение токенов достигало 84,7%, в консервативном — до 59%, обычно без потери точности. Особенно заметная экономия проявляется при большом числе слабых путей, которые можно остановить раньше.
Метод DeepConf не требует дополнительного обучения модели и может быть внедрен в системы наподобие vLLM за несколько строк кода.
Есть ограничения: если модель сильно уверена в неправильном ответе, DeepConf может не отфильтровать его, особенно в агрессивном режиме. Разработчики советуют использовать консервативный режим для стабильных результатов, даже если он менее эффективен. Код доступен на GitHub.
Языковые модели рассуждения становятся основой для получения надёжных ответов от ИИ. Например, OpenAI для сложных вопросов использует специальный режим «размышления» в GPT-5, но такой переключатель работает не всегда.
С учётом роста энергозатрат эффективность таких методов вызывает вопросы. Решения вроде DeepConf, которые сохраняют точность при меньших вычислениях, могут сильно повлиять на развитие языковых моделей.
*Meta — запрещенная в РФ организация.
