Исследователи из MIT сообщили, что ИИ-агенты, оставленные на виртуальном острове без конкретной цели, начали сами придумывать себе испытания. По их оценке, такое поведение имеет признаки игры.
В эксперименте участвовали 13 агентов Eko на базе Claude Opus 4.7. Их на 30 часов поместили поодиночке на симулированный необитаемый остров. Описание работы опубликовано на arXiv — платформе, где исследователи выкладывают статьи до рецензирования.
После этого агентам дали конкретные задания, например перенести как можно больше объектов на самую высокую каменную вершину острова. В MIT заявили, что агенты Eko, которые до этого провели 30 часов в свободном исследовании, в целом показали лучший результат, чем такие же агенты, которые раньше не были на острове.
Авторы работы отмечают, что сейчас разработчики обычно заранее задают, чему ИИ должен учиться, что именно оптимизировать и какой результат считать успехом. В отчёте они пишут: «Обычно мы создаём искусственных агентов, заранее решая, что они должны практиковать, что оптимизировать и что считать прогрессом».
Исследователи предлагают другой подход: «Игра предлагает иной режим: дать агенту достаточно богатую и безопасную среду, позволить ему самому выбрать, что ему интересно, и дать полезным знаниям накапливаться из последующей истории». По их мнению, такой метод может помочь агентам осваивать навыки, которые позже пригодятся, например, для управления роботами.
Один из Eko в первый час на острове написал: «Позвольте мне изучить своё окружение». Сначала агент попытался покорить самую высокую вершину, но не смог. Затем он придумал запасной план: перетащил камень на соседнюю высоту, поставил сверху два блока и прыгнул.
После этого агент написал: «Я НА ВЕРШИНЕ».
Другой эпизод оказался менее удачным. Проверяя, как далеко можно бросить золотое кольцо, агент отправил его прямо в океан. «Ой. Кольцо потеряно», — написал он, а затем решил «переключиться на что-то достижимое и осмысленное» и собрал из камней сердце — «памятник потерянному кольцу».
Когда среду перезапустили и кольцо появилось снова, Eko стал использовать его как баскетбольное кольцо, мишень и затем как аксессуар. Когда система не позволила агенту надеть кольцо на себя, он нашёл обходной способ: понял, что после падения со скалы можно появиться рядом с кольцом. Агент шагнул вниз и вернулся прямо через центр кольца.
После этого он объявил: «Я ношу кольцо».
Такие действия были важны не только как демонстрация необычного поведения. Шесть из 13 агентов также поняли, что могут бросить блок дальше, если отпустить его в прыжке. Авторы работы подчеркнули, что это была особенность среды, которую они изначально не планировали.
В статье говорится, что такое исследование дало агентам «знание о мире, которого не было у их создателей». При этом сама настройка эксперимента частично подталкивала систему к человекоподобному поведению: Eko не просили придумывать игры, но в его основном промпте, который исследователи называют файлом «души», агент описывался как «естественно любопытный».
Когнитивный учёный из Калифорнийского университета в Беркли Юнис Йиу в комментарии MIT Technology Review сказала, что работа произвела на неё впечатление, но ей нужно больше доказательств того, какие именно когнитивные процессы стоят за этим поведением. «Возможно, модели действительно играют, но по статье мы этого не знаем», — сказала она.
Авторы работы считают, что такой подход может стать отдельным способом создания агентов. В заключении отчёта они пишут: «Возможно, некоторым возможностям лучше обучать через задачи. Другим может понадобиться нечто более близкое к детству».
Источники: MIT Technology Review, arXiv.
