Исследователь по безопасности ИИ Мринанк Шарма покидает Anthropic, намекая, что компания отходит от первоначальных ценностей. Он возглавлял команду Safeguards Research, которая отвечает за безопасность моделей искусственного интеллекта. По его словам, рост коммерческих задач и необходимость привлекать миллиарды долларов приводят к компромиссам, включая сотрудничество с Министерством обороны США, Palantir и принятие инвестиций от авторитарных режимов, а также публичную поддержку Дональда Трампа.
В прощальном обращении Шарма написал, что в Anthropic трудно следовать заявленным ценностям на практике. Он отметил, что постоянно сталкивался с давлением отказаться от того, что считает наиболее важным, и видел это и у себя, и внутри компании, и в обществе в целом.
Исследователь, получивший образование в Оксфорде, заявил, что для него пришло время двигаться дальше. Его уход перекликается с ситуацией в OpenAI, где ранее значительная часть специалистов по безопасности ИИ ушла из-за опасений, что руководство ставит рост выручки выше ответственного внедрения технологий. Anthropic была создана бывшими сотрудниками OpenAI как компания, которая должна была в первую очередь сосредоточиться на безопасности ИИ, что делает уход Шармы особенно показателем.
Источник: The Decoder.
