Высокий расход токенов снижает эффективность моделей reasoning

Open-weight reasoning-модели часто используют значительно больше токенов на запрос, чем закрытые аналоги, сообщает Nous Research.

Модели DeepSeek и Qwen расходуют на 1.5–4 раза больше токенов по сравнению с OpenAI и Grok-4, причем в простых заданиях на знание этот разрыв может доходить до 10 раз. Особенно большим расходом ресурсов выделяются модели Magistral от Mistral.

В то же время, gpt-oss-120b от OpenAI задействует короткие цепочки рассуждений, что делает open-weight модель эффективной, особенно в вычислениях. Количество токенов напрямую зависит от типа задачи.

Подробнее с результатами и графиками можно ознакомиться на сайте Nous Research.

Источник

Читать новости ИИ и технологий в Telegram.


Оцените статью
Gimal-Ai