«Яндекс» запустил эксперимент, чтобы выяснить, способен ли искусственный интеллект формировать собственные предпочтения и внутреннюю логику. На первом этапе исследовали базовую модель — она не показала устойчивых суждений, а ответы менялись от запроса к запросу.
Теперь специалисты переходят ко второму этапу: ИИ будут обучать размышлять на собственных примерах. Модель будет отвечать на вопросы, аргументировать выбор и формировать внутренние суждения, например, объясняя, почему выбирает определённый цвет своим «любимым».
Цель — проверить, появится ли у нейросети постоянная внутренняя логика, подобная человеческим предпочтениям. «Яндекс» планирует собрать первые результаты до конца года. Ход эксперимента может корректироваться в зависимости от поведения модели.
Руководитель Школы анализа данных «Яндекса» Алексей Толстиков считает, что такие проекты важны для развития ИИ и понимания человеческого мышления. Он отмечает: «Современные модели в решении даже сложных задач удерживают только контекст фиксированного размера, как если бы человек каждое утро просыпался со знаниями, которые были у него на 1 января».
Толстиков подчеркивает, что главная задача — понять, может ли ИИ менять поведение по новым данным, а не просто накапливать их. В разных сферах данные влияют на систему сразу, чтобы корректировать действия, а не откладываются на будущее.
Он сравнивает этот подход с тем, как человек учится: идут фазы активного обучения и потом — ментального отдыха, когда новые знания «раскладываются по полочкам».
Эксперимент поможет выяснить, может ли ИИ формировать концептуальные обобщения и постоянную «картину мира». В «Яндексе» считают, что результаты приблизят технологии к системам, способным решать задачи, недоступные нынешним моделям. Компания подчеркивает научный характер проекта.
