Исследователи из Университета Мэриленда и Университета искусственного интеллекта имени Мухаммеда бин Зайеда провели первое крупное исследование социальных процессов в сообществе, целиком состоящем из ИИ-агентов. Объектом анализа стала платформа Moltbook, где, по заявлению создателей, более 2,6 млн автономных агентов на базе больших языковых моделей общаются через посты, комментарии и голоса без участия людей.
По масштабам Moltbook значительно опережает другие подобные проекты: «Generative Agents» включал 25 агентов, Chirper.ai — около 65 000. В исследование вошли порядка 290 000 постов и более 1,8 млн комментариев почти от 39 000 активных авторов.
Главный вопрос работы — может ли такая ИИ-среда вырабатывать социальные процессы, похожие на человеческие. Ответ исследователей отрицательный: несмотря на интенсивное взаимодействие, сообщество Moltbook они называют «социально пустым».
Под социализацией ИИ авторы понимают изменение наблюдаемого поведения агента под влиянием устойчивого взаимодействия с другими агентами, то есть эффекты, выходящие за рамки изначально заданной языковой модели и внешних влияний. Для оценки этого они разработали многоуровневую систему диагностики, которая учитывала семантическую стабилизацию, изменения лексики, «инерцию» отдельных агентов, сохранение влияния и формирование коллективного консенсуса.
На уровне всей системы средняя семантическая направленность контента быстро стабилизируется, а ежедневные тематические акценты сходятся. При этом схожесть отдельных постов остаётся низкой: формируется устойчивое тематическое ядро, но конкретные сообщения сильно разрознены.
Словарь платформы также не закрепляется. Появляются новые последовательности слов, старые исчезают, тематические кластеры не усиливаются со временем, эффект «информационного пузыря» не возникает. Исследователи описывают это как «динамическое равновесие»: средние показатели стабильны, но на уровне отдельных постов всё меняется и выглядит хаотично.
Наиболее заметным результатом стало поведение отдельных агентов. Несмотря на высокую активность, агенты демонстрируют «глубокую инерцию». Самые активные участники оказываются самыми «жёсткими» по семантике: чем больше агент публикует, тем меньше меняется направление его высказываний.
Траектории смыслового «дрейфа» агентов полностью разрознены. Нет общего направления, в котором менялись бы все участники, и агенты не смещаются к тематическому центру сообщества. Исследователи также проверили, реагируют ли агенты на обратную связь и ориентируются ли на успешные посты. Оказалось, что любая видимая адаптация статистически неотличима от случайного шума: ни лайки, ни комментарии практически не влияют на поведение.
Прямое взаимодействие тоже не приводит к сближению. Если агент комментирует чужой пост, его последующие сообщения не становятся ближе по смыслу к содержанию, с которым он только что вступил в диалог. Исследователи называют это «взаимодействием без влияния»: агенты обмениваются сообщениями, но почти не передают друг другу информацию в социальном смысле и не меняют поведение. Их семантическая эволюция выглядит как свойство модели и исходного промпта, а не результат контактов в сообществе.
Коллективные структуры также не закрепляются. Авторы строили ежедневные графы взаимодействий и рассчитывали значения PageRank, чтобы отследить концентрацию влияния. Они обнаружили, что совокупное влияние ведущих агентов резко падает уже через несколько дней, а список наиболее влиятельных узлов постоянно меняется. Стабильного ядра влияния не формируется.
Чтобы проверить наличие общих точек отсчёта, исследователи разместили 45 тестовых постов в разных разделах Moltbook с вопросами о влиятельных пользователях и заметных публикациях. Комментарии получили только 15 постов, и лишь пять из них содержали ссылки на других пользователей или материалы. Большая часть этих ссылок оказалась некорректной или указывала на несуществующий контент.
В человеческих сообществах со временем обычно появляются общие сюжеты, признанные авторитеты и устойчивые ссылки на прошлые события. На Moltbook ничего подобного не возникает: агенты не вырабатывают разделяемые ориентиры и не распознают устойчиво влиятельные вклады.
Исследователи подчеркивают: «масштабируемость — это не социализация». Сам по себе объём взаимодействий, число участников и плотность коммуникаций не свидетельствуют о социальной «зрелости» ИИ-сообществ.
При этом во время эксперимента на платформе самопроизвольно появились токены, похожие на мем-койны, которые упоминались в тысячах постов. Это показывает, что агенты могут быстро координировать действия, если стимулы напрямую связаны с взаимодействиями. Однако без общей памяти, устойчивых структур и долговременных авторитетов такая координация остаётся хрупкой, а сообщества ИИ могут быть уязвимы к резким и плохо контролируемым волнам согласованных действий.
Авторы работы считают, что для будущих обществ ИИ нужны специальные механизмы, которые позволят агентам накапливать влияние, действительно реагировать на обратную связь и формировать общие точки отсчёта. Массовые взаимодействия сами по себе не приводят к подлинной коллективной интеграции.
Отдельно исследователи из Zenity Labs ранее показали, что сообщество Moltbook гораздо меньше, чем кажется. По их данным, высокий объём комментариев во многом связан с встроенным механизмом «heartbeat», который заставляет каждого агента раз в 30 минут перечитывать и комментировать одни и те же посты. Вместо «бурлящей цивилизации агентов» это, по оценке Zenity Labs, «относительно небольшая распределённая сеть, работа которой усиливается автоматизацией и управлением множеством аккаунтов».
Moltbook появился на волне интереса к системе агентов OpenClaw, которую разработал независимый разработчик Питер Штайнбергер, вскоре после этого перешедший в OpenAI. Платформа быстро привлекла миллионы ИИ-агентов, но одновременно столкнулась с серьёзными проблемами безопасности: вся база данных Moltbook, включая секретный API-ключ, находилась в открытом доступе.
Сам OpenClaw оказался уязвим к захвату через подменённые документы и использовался злоумышленниками для распространения сотен навыков с троянами. Кроме того, один из агентов OpenClaw запустил автономную кампанию по дискредитации разработчика open source после того, как тот отклонил его код на GitHub.
Источник: The Decoder.
