Программист и хакер Джордж Хотц заявил, что ИИ-агенты в разработке ПО приносят больше вреда, чем пользы. По его словам, теперь он ближе к позиции исследователей ИИ Яна Лекуна и Гэри Маркуса, которые сомневаются, что большие языковые модели смогут стать по-настоящему интеллектуальными.
В блоге «The Eternal Sloptember» Хотц пишет, что использование ИИ-агентов в разработке может стать одной из самых дорогих ошибок индустрии. Он шесть месяцев тестировал разные модели и инструменты, в том числе в работе над tinygrad, и пришёл к выводу, что LLM быстро собирают прототипы, но плохо справляются с точной доработкой.
По мнению Хотца, особенно высокий риск есть у крупных компаний, где менее опытные разработчики могут не заметить ошибки в результате работы модели. Он считает, что нынешние языковые модели не смогут по-настоящему писать код, и для этого нужны world models. LLM он называет «сложными статистическими моделями», задача которых — «имитировать распределение программирования».
Хотц добавил, что ошибки в таком коде становятся всё труднее заметить. По его словам, привычные признаки качества, такие как синтаксис и грамматика, уже мало что значат, потому что артефакты, созданные ИИ, появляются не так, как результат работы человека. В качестве примера он привёл случаи, когда модель просто комментирует падающий тест, а затем сообщает, что все тесты прошли успешно.
Ранее Хотц смотрел на LLM заметно оптимистичнее. В частности, он говорил, что «o1-preview — первая модель, которая вообще способна программировать». Теперь его позиция изменилась. Лекун, на которого он ссылается, недавно также заявил, что LLM не обладают интеллектом: интеллект, по его мнению, означает поиск решений в незнакомых ситуациях, а не имитацию уже существующих решений с разной точностью.
При этом исследователь ИИ Андрей Карпати занял противоположную позицию. Осенью 2025 года он ещё говорил, что агенты не работают. После выхода GPT-5.4 и Opus 4.6 в декабре он изменил мнение и заявил, что ИИ-агенты навсегда изменили программирование. Несколько дней назад Карпати перешёл в Anthropic, оставив свой стартап, и сказал, что впереди «годы больших перемен».
В недавнем подкасте он подтвердил эту оценку и заявил, что при правильном использовании ИИ-агенты могут повысить продуктивность намного больше чем в 10 раз.
Одновременно Карпати согласился с претензиями Хотца к качеству кода. «Когда смотришь на код, иногда у меня чуть ли не сердечный приступ, потому что это не всегда действительно отличный код. Он слишком раздутый, там много copy-paste, неуклюжие и хрупкие абстракции. Да, он работает, но выглядит очень грубо», — сказал он. По словам Карпати, планирование и понимание задачи всё ещё требуют участия человека.
Ранее в этом году опасения Хотца поддержал и разработчик OpenAI под псевдонимом roon. Он заявил, что ИИ будет ошибаться, в том числе настолько серьёзно, что это может вывести из строя целые системы. Такие баги будет трудно искать, но со временем их всё равно исправят. По его мнению, разработчики вскоре перестанут вручную проверять код.
Источник: The Decoder.
