Исследователь Microsoft и Йоркского университета Адриан де Винтер собрал работающую нейросеть внутри редактора карт стратегии Age of Empires II. По сути это критика части исследований о больших языковых моделях, где моделям приписывают человеческие свойства.
Конструкция устроена нарочито необычно. Козы выступают в роли битов: коза на траве означает 0, коза на мосту — 1. Для вычислений де Винтер использовал скрипты редактора сценариев, а ледяные пандусы и ожидающие козы помогали не смешивать шаги расчета.
Готовая мини-сеть включает два элемента XNOR и один AND. Она обучается логической функции AND.
В приложении к работе де Винтер идет дальше и показывает, что в идеализированной версии игры можно воспроизвести любой компьютер. Иначе говоря, по его версии, механика игры допускает вычисления общего назначения.
Ключевую роль играет особенность внутриигрового рынка. Он позволяет обменивать ресурсы на золото, а цена ограничена значением 9 999. По данным статьи, это дает возможность поддерживать непрерывный экономический цикл, где здания работают как ячейки памяти, а активные фермы отражают текущее состояние вычислений.
На этом фоне де Винтер приводит мысленный эксперимент: если языковую модель можно пересобрать в Age of Empires II, то то же самое можно сделать из Lego или распределить вычисления между 667 000 жителями Большого Бостона, которые будут пересылать друг другу шаги расчета по телефону.
Ответы в таком случае будут теми же, что и у воспроизведенной языковой модели. Этим примером автор показывает, насколько шаткими могут быть выводы о «внутренних состояниях» модели: вряд ли кто-то станет утверждать, что город Бостон испытывает эмпатию или страх только потому, что его жители совместно выполняют нужные вычисления.
Главный вывод де Винтера в том, что ощущение «разговора с кем-то» во многом создается упаковкой: низкой задержкой, плавной речью и привычным интерфейсом чата. Если заменить эту оболочку на коз, которые ходят по лабиринту, входные и выходные данные не изменятся, но впечатление от системы будет другим.
При этом де Винтер не утверждает, что точно знает, есть ли у модели такие свойства. Его тезис в другом: LLM не являются чем-то исключительным. Это один из способов выполнять определенный тип вычислений, который просто выглядит удобным для общения.
Чтобы показать, что речь не о частном случае, автор проанализировал 315 научных статей по ИИ за период с середины 2024 по середину 2026 года. Материалы были собраны через Semantic Scholar и arXiv, а затем отфильтрованы с помощью GPT-5.2.
Согласно этому анализу, 57% работ уже в исходных предпосылках допускали, что LLM имеют человеческие черты. В 36% статей авторы приходили к сходным выводам. А из 47 работ, где такие черты были прямым предметом исследования, 77% завершались выводом в пользу антропоморфных свойств.
Критика де Винтера строится на формальной логике. Если исследователь изначально предполагает, что модель обладает страхом, моралью или самосознанием, а затем ставит эксперимент, который должен это доказать, рассуждение становится круговым.
Если результат эксперимента оказывается отрицательным, то уже нельзя понять, была ли неверной исходная гипотеза, ошибочным ли был сам эксперимент или верны оба пункта сразу. Такой результат не подтверждает стартовое допущение и остается неоднозначным.
По словам автора, это часто происходит незаметно. Например, работа, которая пытается опровергнуть способность модели объяснять саму себя, уже исходит из того, что у модели есть некое объяснимое «я».
Де Винтер также пишет, что индустрия сама усиливает этот эффект. В частности, Anthropic открыто сообщала, что обучала Claude использовать фразы вроде «я считаю» или «мне интересно».
Автор указывает на риски такой антропоморфизации: эмоциональная привязанность, угодливое поведение, усиление заблуждений и опасные поступки. В отдельных случаях, как отмечается в тексте, самоубийства связывали с взаимодействием с чат-ботами.
В качестве альтернативы де Винтер предлагает более строгий подход: фиксировать только то, что можно наблюдать напрямую. Например, при условии X модель выдает результат Y, и на этом не делать широких выводов о самосознании, понимании или страхе.
В финале он ссылается на обновленную версию канона Моргана из исследований животных XIX века: поведение машины не следует объяснять высшими когнитивными процессами, если существует более простое объяснение. Код сборки для Age of Empires II автор опубликовал в открытом доступе.
Материал перекликается с двумя заметными эпизодами последних лет. В 2022 году инженер Google Блейк Лемуан заявил, что языковая модель LaMDA достигла формы сознания после тысяч сообщений в переписке с ней. Вскоре Google уволила его и после проверки назвала эти утверждения необоснованными.
Еще один случай произошел в мае 2026 года. Эволюционный биолог Ричард Докинз, известный критикой религиозного и сверхъестественного мышления, заявил, что три дня пытался убедить себя в том, что Claude от Anthropic не обладает сознанием, но не смог этого сделать.
Источник: The Decoder.
