Американский стартап Physical Intelligence представил π0.7 — базовую модель для роботов, которая, по словам разработчиков, умеет заново комбинировать навыки, полученные во время обучения. Команда называет это ранним признаком композиционного обобщения в робототехнике.
Модель построена на открытой языковой модели Google Gemma 3 с 4 млрд параметров. Её дополняет отдельный модуль на 860 млн параметров, который отвечает за генерацию движений робота. В Physical Intelligence считают, что ключевую роль играет не сама архитектура, а схема обучения.
Если прежние модели обычно получали на обучении короткое описание задачи, например «сложить футболку», то π0.7 использует дополнительный контекст. В него входят инструкции для подзадач на естественном языке, метаданные о качестве и скорости демонстрации, метки режима управления и изображения промежуточных целей. Такие изображения создаёт во время работы вторая лёгкая модель, описывающая состояние среды.
Этот подход позволяет обучать систему на данных разного качества. Неудачные попытки или медленные демонстрации не нужно удалять: их можно пометить метаданными и оставить в наборе данных.
По данным Physical Intelligence, одна модель π0.7 показала результаты на уровне специализированных моделей π*0.6, которые ранее дообучали с помощью reinforcement learning, то есть обучения с подкреплением. Это касается задач по складыванию белья, приготовлению эспрессо и сборке коробок.
Компания также заявляет о переносе навыков между разными роботами. Двуручный промышленный манипулятор UR5e складывал футболки с успешностью 80%, хотя данных по складыванию для этого робота при обучении не было. По оценке PI, это соответствует zero-shot-результату опытных операторов, которые впервые пробуют выполнить ту же задачу на этом роботе.
Новые задачи можно обучать и через пошаговые текстовые подсказки. Человек проводит робота через процесс по шагам, давая отдельные инструкции. Затем эти эпизоды используют для обучения высокоуровневой политики, которая позже выполняет задачу сама, без сбора обычных данных телеметрического управления.
В качестве показательного примера команда приводит загрузку батата в аэрогриль. Без подсказок модель с задачей не справляется, а при пошаговом обучении — справляется. В техническом отчёте сказано, что в обучающих данных нашли только два эпизода, где робот закрывает аэрогриль, а также данные из открытого набора DROID с рукой-манипулятором Franka.
При этом разбор демонстрационного видео показывает, что манипулятор Franka из набора DROID открывает ящик аэрогриля и кладёт внутрь бутылку. По структуре это очень близко к задаче с бататом, которую π0.7 якобы решает за счёт новой комбинации известных навыков. Physical Intelligence называет эти эпизоды «довольно отличающимися» от действий мобильного робота в эксперименте и считает результат признаком того, что модель заново собирает навыки, как языковые модели собирают текст из известных фрагментов.
Это переносит в робототехнику спор, давно знакомый по языковым моделям: решает ли модель новую задачу за счёт обобщения или фактически воспроизводит очень похожие примеры из обучения. Для языковых моделей такая проблема обсуждается как загрязнение данных, когда задания для проверки попадают в обучающий материал в том же или почти том же виде.
В отчёте PI признаёт, что при таком размере и разнообразии набора данных почти невозможно точно определить, какие задачи действительно были новыми для модели. Однако команда утверждает, что именно такая сборка известных блоков и составляет суть композиционного обобщения. На практике, по их мнению, не так важно, появился ли навык через обобщение или был перенесён из похожих ситуаций.
Авторы считают, что π0.7 показывает: базовые модели для роботов выходят на масштаб, при котором становятся заметны эффекты, похожие на поведение больших языковых моделей. Всё большее значение имеет формулировка запроса, качество результата сильно зависит от контекста, а различие между настоящим обобщением, ремиксом и извлечением похожих примеров становится ключевой задачей оценки.
Дополнительные эксперименты в отчёте также показали, насколько важны метаданные для масштабирования. Без аннотаций качества модель ухудшается, если к обучению добавляют больше, но менее качественных данных. С метаданными она продолжает получать пользу от расширения набора, даже если среднее качество падает.
Тему reasoning-моделей, то есть систем, которые заранее перебирают возможные способы решения, отчёт не раскрывает. Physical Intelligence лишь отмечает, что в будущем управляемые модели вроде π0.7 смогут решать более сложные задачи, если будут заранее продумывать возможные действия. Текущая версия этого пока не делает.
Источник: The Decoder, технический отчёт Physical Intelligence.
