Sakana AI представила алгоритм для кооперации языковых моделей

Японский стартап Sakana AI предложил новый способ совместной работы нескольких крупных языковых моделей, таких как ChatGPT и Gemini, над одной задачей. По данным первых испытаний, этот подход оказался эффективнее, чем работа отдельных моделей поодиночке.

Алгоритм носит название AB-MCTS (Adaptive Branching Monte Carlo Tree Search). Он позволяет нескольким ИИ одновременно решать одну проблему. Модели обмениваются и дорабатывают предложения, действуя как команда.

AB-MCTS сочетает два подхода: глубокий поиск (уточнение существующего варианта) и широкий поиск (пробование новых решений). Специальная система вероятностей определяет, какой из путей выбрать на каждом этапе. В версии с несколькими языковыми моделями (Multi LLM AB-MCTS) алгоритм сам выбирает, какая из моделей, например ChatGPT, Gemini или DeepSeek, лучше подходит для текущей задачи. Выбор моделей меняется на ходу в зависимости от результатов.

На сложном тесте ARC-AGI-2 совместная работа нескольких моделей показала лучшие результаты, чем отдельные модели (Single-LLM AB-MCTS). В ряде случаев верный ответ был получен только при комбинации нескольких ИИ.

Пока у метода есть ограничения. Если не задавать ограничений по числу попыток, система находит правильный ответ примерно в 30% случаев. Но в официальном тесте, где обычно можно дать только один или два ответа, эффективность заметно снижается. В Sakana AI намерены разработать дополнительные инструменты для автоматического отбора лучших ответов, например, использовать отдельную ИИ-модель для оценки вариантов. Также возможна интеграция с системами, где ИИ обсуждают решения друг с другом.

Компания опубликовала исходный код алгоритма под названием TreeQuest, чтобы разработчики могли использовать его для своих задач.

Источник

Читать новости ИИ и технологий в Telegram.


Оцените статью
Gimal-Ai