Anthropic объявила о запуске внутреннего аналитического центра Anthropic Institute, который будет изучать, как мощные системы искусственного интеллекта влияют на общество, экономику и безопасность. Институт возглавит сооснователь компании Джек Кларк, заняв новый пост Head of Public Benefit.
Команда института планирует исследовать, как ИИ меняет рынок труда, какие новые риски возникают из-за неправильного использования технологий, какие ценности отражают ИИ-системы, а также как людям сохранять контроль над самулучшающимися моделями.
В состав коллектива войдут около 30 сотрудников, набранных из трёх существующих исследовательских групп Anthropic: Frontier Red Team, команды Societal Impacts и экономической исследовательской команды. Среди первых назначений — Мэтт Ботвиник (ранее Google DeepMind), Антон Коринек (Университет Вирджинии) и Зои Хитциг (ранее OpenAI).
Создание института совпало с непростой ситуацией для Anthropic: компания подала в суд на 17 федеральных агентств США и Административно-бюджетное управление Белого дома после того, как её отнесли к рискам для цепочек поставок. По данным The Verge, Кларк заявил, что у него «нет опасений» относительно финансирования исследований. Также Anthropic открывает офис в Вашингтоне (округ Колумбия).
Источник: The Verge.
