Исследователи из Колумбийского университета, Нью-Йоркского университета (NYU) и стартапа Distyl, среди которых один из лидеров ИИ Яна ЛеКун (Yann LeCun), опубликовали работу, в которой утверждают, что концепция AGI (общего искусственного интеллекта) методологически ошибочна. По их мнению, человеческий интеллект не является общим, а формировался как набор специализированных способностей.
Авторы пишут, что популярный термин AGI скорее мешает обсуждению будущего ИИ, чем помогает. Они считают, что люди недооценивают собственные ограничения и склонны приписывать себе «общность» интеллекта, которой на самом деле нет. В качестве примера приводится чемпион мира по шахматам Магнус Карлсен: «Магнус Карлсен не объективно силён в шахматах, он силён относительно уровня человеческой игры». Если сравнивать с компьютерами, его результат отражает пределы человеческих возможностей. «Наше восприятие его способностей искажено ограничениями человечества», — отмечают авторы.
В статье системно разбираются распространённые определения AGI. Исследователи приходят к выводу, что ни одно из них не выдерживает собственных критериев. Определения, которые требуют подлинной «общности», упираются в теорему No Free Lunch, согласно которой один алгоритм не может быть оптимален для всех задач. Определения, ограниченные рамками человеческих возможностей, по сути не являются общими. Подходы, предложенные OpenAI и генеральным директором DeepMind Демисом Хассабисом, по мнению авторов, либо невозможно измерить, либо они внутренне противоречивы.
Ранее Демис Хассабис и Илон Маск уже критиковали похожие аргументы, считая, что они смешивают понятия General Intelligence и Universal Intelligence. Хассабис утверждал, что «мозг — самое изящное и сложное явление, известное нам во Вселенной, и он на самом деле крайне общий». Исследователи возражают: даже в идеализированных условиях человеческий мозг покрывает лишь «бесконечно малую долю» возможных задач. «Мы чувствуем себя общими, потому что не видим собственных слепых зон, а не потому, что их нет», — пишут они.
Вместо AGI авторы предлагают концепцию «Superhuman Adaptable Intelligence» (SAI) — «сверхчеловеческого адаптивного интеллекта». Под этим они понимают систему, «которая может научиться превосходить людей во всём важном, что мы умеем делать, и закрывать те пробелы в навыках, где люди в принципе неспособны действовать». Ключевым критерием выступает скорость и надёжность адаптации к новым задачам, а не перечень заранее заданных умений.
С технической точки зрения авторы указывают на самообучение (self-supervised learning) и модели мира (world models) как на наиболее перспективные направления, а не на авторегрессионные языковые модели. По их оценке, ошибки в таких языковых моделях «растут экспоненциально с увеличением длины предсказания». Они также считают, что сейчас единообразие архитектур по типу GPT замедляет прогресс. «Однообразие убивает исследования», — подчёркивают они.
В завершение работа призывает принять специализацию как норму для ИИ и оценивать прогресс «по тому, насколько быстро и стабильно системы приобретают новые компетенции, а не по тому, насколько точно копируют человеческое поведение».
Источник: публикация исследовательской группы Колумбийского университета, NYU и Distyl.
