Исследователи из Microsoft и трёх китайских университетов представили SkillOpt — метод, который обучает текстовые инструкции для ИИ-агентов так же, как обычно обучают веса моделей. По данным авторов, простой Markdown-файл может повысить результат GPT-5.5 на процедурных задачах более чем на 20 пунктов.
Речь идет о так называемых skills — наборах инструкций, которые уже используются в коммерческих продуктах. Например, Anthropic в прошлом году добавила в Claude модульную систему skills, которая автоматически подгружает тематические инструкции, скрипты и ресурсы в зависимости от задачи.
Обычно такие документы включают пошаговые процедуры, правила работы с инструментами, формат вывода и типовые ошибки. В статье Microsoft говорится, что до сих пор такие инструкции либо писали вручную, либо генерировали за один проход с помощью языковой модели, либо слегка правили в режиме самопроверки. Авторы считают, что такие методы не дают контролируемого улучшения качества.
В SkillOpt документ со skill рассматривается как внешний обучаемый слой для целевой модели, чьи веса остаются неизменными. Отдельная языковая модель выступает в роли оптимизатора: она читает логи работы агента, находит повторяющиеся ошибки и удачные паттерны, а затем предлагает точечные правки — добавить, удалить или заменить отдельные фрагменты текста.
Каждое изменение принимается только в том случае, если оно показывает лучший результат на валидационном наборе. Авторы переносят на текстовый уровень несколько идей из глубокого обучения: ограничение числа правок на шаг, постепенное уменьшение размера шага по эпохам, буфер с отклоненными правками как отрицательными примерами и медленное обновление в конце эпохи для сохранения устойчивого направления изменений.
Практический смысл метода в разделении этапов обучения и использования. Модель-оптимизатор работает только во время тренировки. После этого целевая модель на этапе вывода получает обычный Markdown-файл размером от 300 до 2000 токенов в качестве контекста.
Авторы протестировали SkillOpt на шести бенчмарках, которые охватывают поиск, таблицы, анализ документов, математику и embodied action — задачи, где агент взаимодействует со средой. В качестве целевых систем использовались семь моделей, включая GPT-5.5 и более компактную Qwen3.5-4B. Тесты проходили как в обычном чате, так и в агентных средах Codex и Claude Code.
Во всех комбинациях SkillOpt либо показывает лучший результат, либо делит первое место с другими методами. Сравнение проводилось с навыками, написанными вручную, с инструкциями, созданными LLM за один проход, а также со специализированными подходами Trace2Skill, TextGrad, GEPA и EvoSkill. Для GPT-5.5 в прямом чате средний результат по шести бенчмаркам вырос примерно на 23 пункта.
Самые заметные улучшения наблюдались в задачах со строгими требованиями к формату и использованию инструментов, например при редактировании таблиц. Небольшие модели тоже выиграли от метода. Авторы считают это признаком того, что хорошо обученный skill передает процедурные знания, которых нет в весах таких моделей.
Отдельно авторы отмечают переносимость навыков. Skill, обученный на более крупной модели, улучшал и меньшие модели из той же линейки. Навык для работы с таблицами, обученный в цикле Codex, без изменений работал и в Claude Code. Навык по математике, оптимизированный на олимпиадных задачах, также улучшал результаты на родственном бенчмарке без дополнительного обучения.
Абляционные тесты показали, почему метод сохраняет стабильность. Если не ограничивать число правок на шаг, текст skill уходит слишком далеко от предыдущей версии. Если убрать буфер с отклоненными правками, оптимизатор начинает повторять одни и те же неудачные попытки.
Удаление медленного обновления в конце эпохи снизило результат на SpreadsheetBench более чем на 20 пунктов — это было самым крупным падением во всем эксперименте. По словам авторов, только сочетание ограниченного шага, проверки на валидации, отрицательной обратной связи и долгосрочного закрепления делает обучение skills управляемым процессом оптимизации.
Итоговые документы остаются компактными. В большинстве случаев их размер не превышал 2000 токенов, а заметные улучшения достигались всего за одну-четыре принятые правки в течение четырех эпох обучения. В OfficeQA самый большой прирост дал всего один принятый edit.
Получившиеся правила выглядят как краткие заметки опытного пользователя после работы с бенчмарком. Для таблиц skill учится сначала проверять структуру листа и записывать сразу вычисленные значения во весь целевой диапазон вместо использования формул Excel.
Для ALFWorld система начинает вести журнал посещенных локаций и не идет к цели, пока не подберет нужный объект. Для задач по документам skill сначала привязывает вопрос к нужной строке таблицы и только потом принимает ответ. Эти правила описывают процедуры, а не отдельные задания.
Авторы признают, что метод зависит от качественной автоматической оценки результата. Для открытых задач, где успех трудно измерить, этап валидации потребует участия человека или оценки другой моделью. Кроме того, SkillOpt специально оптимизирует один документ, а не библиотеку навыков, что может стать ограничением в очень разнородных сценариях.
На фоне других подходов SkillOpt выглядит более легковесным. В материале упоминается OpenClaw-RL от исследователей из Принстона, который использует сигналы из каждого взаимодействия, например ответы пользователя или результаты тестов, как источник обучения. MetaClaw извлекает компактные поведенческие правила из неудачных задач, добавляет их в промпт, а веса обновляет только в периоды простоя с помощью обучения с подкреплением.
Также приводятся примеры более радикальных систем. AutoTTS позволяет агенту для программирования самостоятельно искать более эффективные алгоритмы управления рассуждением, а Hyperagents от Meta оптимизируют сам механизм собственного улучшения. В отличие от них SkillOpt не меняет веса модели и работает только с читаемым текстовым файлом.
Источник: The Decoder, статья по мотивам работы Microsoft и трех китайских университетов.
*Организация Meta (владелец Facebook и Instagram) признана экстремистской организацией и ее деятельность запрещена на территории России.
