Министерство обороны США рассматривает возможность сократить или полностью прекратить сотрудничество с Anthropic из‑за отказа компании предоставить военным полностью неограниченный доступ к своим моделям ИИ. Об этом сообщает Axios со ссылкой на представителя правительства.
По данным Axios, Anthropic настаивает на двух ключевых ограничениях: запрет на массовое слежение за гражданами США и запрет на применение ИИ для полностью автономных вооружений. Высокопоставленный чиновник заявил изданию, что обсуждение отдельных сценариев использования с компанией «непрактично».
Чиновник также сообщил, что OpenAI, Google и xAI проявляют большую готовность к сотрудничеству с Пентагоном и уже согласились снимать стандартные ограничения, которые действуют для обычных пользователей, в рамках военных проектов. Сейчас с ними ведутся переговоры о расширении работы в засекреченных средах и о внедрении стандарта использования ИИ «для всех законных целей» как в секретных, так и в несекретных системах. По словам источника, одна из трёх компаний уже приняла такие условия, две другие демонстрируют «большую гибкость, чем Anthropic».
По информации Reuters, конфликт вокруг ИИ начался из‑за условий крупного контракта на сумму до 200 млн долларов. Anthropic требует гарантий, что её технологии не будут использоваться для управления вооружением без достаточного человеческого контроля и для слежки за американскими гражданами.
Министерство обороны, переименованное администрацией Дональда Трампа в «Министерство войны», отвергает подобные ограничения. В меморандуме по стратегии ИИ от 9 января указывается, что ведомство намерено применять коммерческие системы искусственного интеллекта вне зависимости от политик их разработчиков, если соблюдаются законы США.
Генеральный директор Anthropic Дарио Амодеи в недавней записи в корпоративном блоге написал, что искусственный интеллект должен поддерживать национальную оборону «во всех аспектах, кроме тех, которые делают нас похожими на автократических противников». Он также назвал «ужасом» случаи гибели граждан США во время протестов против миграционной политики в Миннеаполисе. Как отмечает Reuters, эти эпизоды усилили опасения части технологического сектора по поводу возможного применения их решений для насилия со стороны государства.
Reuters указывает, что Пентагону, вероятно, потребуется сотрудничество с Anthropic, так как модели компании обучены избегать потенциально вредных действий, а для адаптации систем под военные задачи нужна работа инженеров Anthropic. Спор разворачивается в чувствительный период для компании: она готовится к IPO и уже вложила значительные ресурсы в направление национальной безопасности.
Источник: Axios, Reuters.
