OpenAI заключила соглашение с Министерством обороны США о запуске своих моделей ИИ на засекреченных сетях, через несколько часов после того, как конкурент Anthropic получил запрет на использование своих технологий в правительстве.
Сделка, подписанная в пятницу, позволяет использовать системы OpenAI «для всех законных целей». По словам Сэма Олтмана, Министерство обороны продемонстрировало «глубокое уважение к вопросам безопасности и стремление к партнёрству для достижения наилучшего результата».
За несколько часов до этого президент Дональд Трамп распорядился федеральным ведомствам прекратить использование ИИ-технологий Anthropic. Компания в последние недели вела переговоры о контракте с Пентагоном на 200 млн долларов, однако Министерство обороны потребовало полного права применять её ИИ для любых законных задач.
Anthropic настаивала, что её технологии нельзя использовать для массовой слежки за гражданами США и для полностью автономных летальных систем. В Пентагоне сочли такие ограничения неприемлемыми и заявили, что частный подрядчик не может определять, как его средства применяются в целях национальной безопасности. Крайний срок переговоров — 17:01 в пятницу — прошёл без соглашения.
После этого министр обороны Пит Хегсет назвал Anthropic «риском для цепочек поставок в сфере национальной безопасности». Трамп охарактеризовал стартап как «радикальную левую ИИ-компанию» и написал в Truth Social: «МЫ будем решать судьбу нашей страны, а не какая-то вышедшая из-под контроля радикальная левая ИИ-компания, которой нет дела до того, как устроен реальный мир».
По данным The New York Times, OpenAI выбрала иную стратегию переговоров. Олтман согласился на формулу «для всех законных целей», но добился права встроить в системы собственные технические ограничители. Как уточняет Axios, модели будут работать только в облачных сетях и не будут развёртываться на периферийных платформах, таких как автономные вооружённые системы.
«OpenAI создаст технические защитные механизмы, чтобы наши модели вели себя так, как должны, этого также хотел Пентагон», — заявил Олтман. Компания разместит своих инженеров рядом с государственными сотрудниками на засекреченных проектах, чтобы контролировать безопасность моделей.
Олтман также призвал Министерство обороны предложить такие же условия всем разработчикам ИИ, считая, что единый подход был бы приемлем для всей отрасли. Внутренний меморандум OpenAI подчёркивает его позицию: «В этом случае для меня важно поступить правильно, а не выбрать лёгкий, но неискренний путь, который выглядит жёстко».
Однако различия в формулировках OpenAI и Anthropic могут иметь серьёзные последствия. Anthropic выступала за принцип «никаких полностью автономных вооружений без участия человека», то есть человек должен активно принимать решение до применения оружия.
Олтман формулирует свою позицию как «человеческая ответственность за применение силы, включая автономные вооружённые системы». Понятие ответственности гибче, чем прямой контроль: её можно закрепить постфактум и не обязательно требовать вмешательства человека до выстрела.
Подход Anthropic с акцентом на контроле фактически исключал бы полностью автономные системы без управления в реальном времени. Формула OpenAI о «ответственности» оставляет пространство для вариантов, где человек несёт ответственность уже после развёртывания системы.
Anthropic также представила технический аргумент: «Мы не считаем, что нынешние передовые модели ИИ достаточно устойчивы, чтобы применять их в полностью автономных вооружениях. Разрешение использовать текущие модели в таком виде поставило бы под угрозу военнослужащих США и гражданских лиц».
Запрет на «массовую внутреннюю слежку» Anthropic трактует широко. Встаёт вопрос, считается ли слежкой активный сбор данных или лишь анализ уже собранной информации. Компания, вероятно, пыталась закрепить ограничения на сценарии применения, которые пока прямо не урегулированы законом, но стали возможны благодаря современным технологиям.
Anthropic объявила, что оспорит статус «риска для цепочек поставок» в суде: «Никакое давление или наказание со стороны Министерства войны не изменит нашу позицию по массовой внутренней слежке или полностью автономным вооружениям. Мы будем оспаривать любой статус риска для цепочек поставок в суде».
Источник: The New York Times, Axios.
