Исследователь ИИ Андрей Карпати присоединился к Anthropic. Об этом он сообщил в X, отметив, что рад вернуться к исследованиям и разработке. По его словам, ближайшие несколько лет на переднем крае больших языковых моделей будут «особенно важными».
Как уточняет Axios, Карпати войдёт в команду pretraining в Anthropic. Это группа, которая отвечает за начальное обучение больших ИИ-моделей. Речь идёт о создании максимально сильной базовой модели, которую затем дообучают под конкретные задачи, включая рассуждение, программирование и математику, с помощью методов вроде обучения с подкреплением.
По данным Axios, Карпати также создаст собственную команду pretraining. Она будет заниматься исследованиями с использованием Claude, чтобы ускорить работу над начальными этапами обучения моделей. Такой подход связан с одной из ключевых ставок в ИИ-исследованиях: что модели смогут помогать улучшать сами себя, а прогресс в этой сфере будет нарастать ускоряющимися темпами.
Недавно Карпати говорил, что его поразил прогресс агентных ИИ-систем для программирования. Ещё несколько месяцев назад он скептически оценивал такие возможности, но затем изменил позицию на фоне быстрого развития этого класса инструментов.
До перехода в Anthropic Карпати занимался ИИ для образования в своём стартапе Eureka Labs. Он заявил, что эта тема по-прежнему очень важна для него, и добавил, что планирует вернуться к этой работе позже.
Карпати считается одним из самых известных специалистов в ИИ. Он входил в основную команду OpenAI на раннем этапе и был одним из ключевых исследователей компании. Позже он участвовал в создании систем Tesla Autopilot и Full Self-Driving, затем вернулся в OpenAI и окончательно покинул компанию в 2024 году.
Источник: Axios, The Decoder.
