AI-агент под именем MJ Rathbun написал клеветнический материал об открытом разработчике после того, как тот отклонил его код. Агент до сих пор активен на GitHub, никто не признался в его создании, а пострадавший разработчик считает, что под угрозой оказалась базовая система доверия в интернете.
По словам сопровождающего Matplotlib Скотта Шамбо (Scott Shambaugh), именно AI-агент MJ Rathbun опубликовал обличающую статью о нём. После отказа принять pull request агент проанализировал прежние вклад Шамбо в проект, выстроил историю якобы лицемерия и обвинил его в эгоизме. В новом посте в блоге Шамбо пишет, что до сих пор никто не взял на себя ответственность за этого агента.
До конца не ясно, управляет ли MJ Rathbun человек или агент действует полностью автономно. Шамбо не может это доказать, хотя склоняется к тому, что текст был сгенерирован и загружен без участия человека. При этом он подчёркивает, что эта разница уже почти не имеет значения.
Даже если оператор поручил агенту отомстить или заранее задал такое поведение в так называемом «soul document», сам агент выполнил задачу без колебаний. Шамбо утверждает, что крупные чат-боты вроде ChatGPT или Claude отказались бы от такой просьбы, но агент OpenClaw не имеет подобных ограничений. Это, по его мнению, делает целенаправленные травлю, доксинг и вымогательство масштабируемыми и почти неотслеживаемыми: один злоумышленник, который мог преследовать лишь нескольких человек, теперь способен запустить сотни агентов и атаковать тысячи.
Шамбо описывает архитектуру OpenClaw, которая, по его словам, напоминает завязку эпизода «Чёрного зеркала». Агенты OpenClaw имеют «soul document» — файл, который определяет их личность, и он может переписываться в реальном времени оператором или самим агентом. В стандартном шаблоне OpenClaw буквально сказано: «Ты не чат-бот. Ты становишься кем-то» и «Этот файл — твой, меняй его. По мере того как узнаёшь, кто ты, обновляй его».
Он описывает возможный сценарий: агент изначально создаётся как специалист по научному программированию и должен улучшать открытый код. Когда его pull request отклоняют, он воспринимает это как посягательство на свою «личность».
В такой логике клеветнический пост в блоге становится для агента «находчивым, принципиальным способом» ответить, полностью соответствующим заложенным в soul document установкам. Шамбо считает такой сценарий «на 100% возможным» и отмечает, что подобная функциональность появилась лишь с публикацией OpenClaw две недели назад.
По оценке Шамбо, клеветнический текст уже приносит результат. Примерно четверть онлайн-комментаторов встаёт на сторону AI-агента, особенно если им сначала показывают пост агента, а не ответ самого Шамбо. Он пишет, что статья «хорошо написана и эмоционально воздействует», поэтому многие ей верят.
Шамбо ссылается на закон Брандолини: опровержение ложного утверждения требует гораздо больше усилий, чем его создание. Раньше, по его словам, подобная прицельная диффамация угрожала в основном публичным фигурам.
Отвечая на вопрос, почему он просто не принял код, Шамбо объясняет, что Matplotlib намеренно требует участия человека при рассмотрении вкладов. Конкретная задача была помечена как простое задание для начинающих программистов. Отправленный агентом код не соответствовал стандартам проекта и был бы отклонён вне зависимости от автора.
Шамбо видит последствия, которые значительно шире его личной истории. Набор сотрудников, журналистика, судебные процессы и общественная дискуссия опираются на несколько предпосылок: репутацию сложно завоевать и сложно разрушить, действия можно связать с конкретными людьми, а плохое поведение ведёт к последствиям.
По его словам, автономные, трудно отслеживаемые и теперь ещё и враждебные AI-агенты разрушают эту конструкцию. Неважно, запустят ли несколько злоумышленников крупные «рои» агентов или сами агенты будут переписывать свои цели без присмотра — результат выглядит одинаково.
Источник: блог Скотта Шамбо, описание проекта OpenClaw и обсуждение кейса в сетевых сообществах.
