Генеральный директор Anthropic Дарио Амодеи публично подтвердил позицию компании в конфликте с Пентагоном по поводу использования ее ИИ-систем.
По словам Амодеи, Anthropic сохраняет две жесткие «красные линии»: запрет на массовую внутреннюю слежку в США и отказ от полностью автономного оружия. При этом он подчеркивает, что компания первой среди разработчиков ИИ разместила свои модели в засекреченных правительственных сетях, национальных лабораториях и у заказчиков из сферы нацбезопасности. Модели Claude уже используют для аналитики разведданных, симуляций, планирования операций и киберзадач.
Комментируя автономное оружие, Амодеи заявляет, что современные ИИ-системы пока недостаточно надежны, чтобы полностью исключить человека из процесса принятия решений о применении силы. Anthropic, по его словам, предлагала Пентагону сотрудничество по повышению этой надежности, но ведомство отказалось.
В части внутренней слежки Амодеи предупреждает, что ИИ позволяет собирать разрозненные, по отдельности безвредные данные и автоматически формировать подробные профили граждан в огромных масштабах.
Амодеи также указывает на противоречие в позиции Пентагона: нельзя одновременно объявлять Anthropic риском для цепочек поставок и при этом ссылаться на закон Defense Production Act (DPA), называя компанию критически важной для нацбезопасности. По его словам, эти утверждения исключают друг друга. Несмотря на давление, Anthropic не меняет позицию. Если Пентагон откажется от ее систем, компания обещает обеспечить плавный переход на другого поставщика.
Кроме того, Anthropic заявляет, что отказалась от нескольких сотен миллионов долларов выручки, прекратив доступ к Claude для китайских компаний, связанных с Коммунистической партией КНР, и выступает за жесткий экспортный контроль чипов. При этом признается, что такие ограничения одновременно ослабляют китайских конкурентов. Если китайские фирмы будут использовать Claude для создания собственных моделей, это ударит по бизнесу Anthropic, поэтому уход от этого дохода также служит защитой долгосрочных интересов компании.
Технологический руководитель Пентагона Эмиль Майкл в интервью CBS заявил, что военные пошли на «очень хорошие уступки». По его словам, Пентагон предложил письменно подтвердить действие существующих законов, запрещающих внутреннюю слежку, и свои действующие руководящие принципы по автономному оружию. Также Anthropic предложили место в совете по этике ИИ при военном ведомстве. Anthropic сочла уступки недостаточными. В ответ Майкл в соцсети X назвал Амодеи «лжецом» с «комплексом бога».
Отвечая на вопрос, почему Пентагон не готов прямо гарантировать, что не будет использовать модели Anthropic для массовой слежки или полностью автономного принятия решений об ударах, Майкл заявил, что это уже запрещено действующим законодательством и внутренней политикой Пентагона. «Вы должны доверять своим вооруженным силам», — сказал он CBS.
Одновременно Майкл подчеркнул необходимость готовиться к будущим угрозам и к растущему использованию ИИ Китаем: по его словам, Пентагон «никогда не скажет в письменном виде частной компании, что мы не сможем себя защитить». По данным Майкла, срок, установленный Пентагоном для Anthropic, истекает в пятницу в 17:01.
Юрист Алан З. Розенштайн в материале для Lawfare анализирует, что Пентагон действительно может потребовать по закону DPA, принятому во время Корейской войны. Этот акт дает президенту широкие полномочия по принудительному привлечению компаний к поставкам в интересах нацобороны.
По оценке Розенштайна, суть юридического спора зависит от того, чего именно добивается Пентагон. Возможны два варианта. В первом случае военное ведомство требует от Anthropic поставки Claude без договорных ограничений по использованию — тот же продукт, но без запрета на массовую слежку и автономное оружие. В таком сценарии у правительства более сильная позиция, считает Розенштайн, потому что сама модель не меняется.
Во втором сценарии Пентагон требует от Anthropic заново обучить Claude и убрать встроенные защитные механизмы уже на уровне модели. По словам Розенштайна, это намного сложнее обосновать юридически, так как речь фактически идет о создании нового продукта, и неясно, позволяет ли DPA заставить компанию разрабатывать то, чего она не предлагает на рынке.
Принудительное переобучение также затрагивает вопросы Первой поправки к Конституции США. Если решения о том, как обучать модель, считать редакционной политикой, то государство по сути вынуждало бы Anthropic выражать ценности, с которыми компания не согласна.
Розенштайн также подчеркивает то же противоречие, о котором говорил Амодеи: Пентагон не может одновременно трактовать Anthropic как угрозу безопасности и ссылаться на DPA, объявляя ее незаменимой для нацобороны. В случае отказа подчиниться приказу компании грозят уголовные санкции. Наиболее вероятный исход, по мнению Розенштайна, состоит в том, что Anthropic выполнит требования формально, но оспорит приказ в суде.
Источник: Lawfare, CBS, публичные заявления Anthropic и Пентагона.
