Пентагон добивается от крупных компаний в сфере искусственного интеллекта, включая OpenAI, Anthropic, Google и xAI, предоставления их моделей на засекреченных военных сетях без привычных ограничений на использование.
Об этом сообщает Reuters со ссылкой на несколько источников, знакомых с переговорами. По данным агентства, на встрече в Белом доме руководитель по технологиям Пентагона Эмиль Майкл заявил представителям ИТ-компаний, что военным нужны модели ИИ для работы на всех уровнях секретности. Закрытые сети применяются для особо чувствительных задач, таких как планирование операций и выбор целей для вооружений.
Ранее на этой неделе OpenAI подписала соглашение о доступе своих моделей на несекретной сети genai.mil, которой пользуются более трёх миллионов сотрудников Минобороны США. В рамках договора многие стандартные ограничения на использование технологий были сняты, хотя часть защитных механизмов сохранилась. Похожие соглашения уже заключили Google и xAI. По данным OpenAI, для работы на засекреченных сетях потребуется отдельный контракт.
Переговоры с Anthropic идут значительно сложнее. Это единственная компания, чей чат-бот Claude уже доступен на засекреченных сетях через сторонних поставщиков, однако Anthropic отказывается разрешать применение своих технологий для управления автономным оружием и внутреннего слежения. При этом в компании заявляют, что хотят помочь США сохранить лидерство в сфере ИИ.
Исследователи ИИ предупреждают о рисках: чат-боты по-прежнему выдают вымышленные ответы, и в военной среде такие ошибки могут иметь смертельные последствия. Компании пытаются снижать риски за счёт встроенных ограничений и политик использования. По информации Reuters, Пентагон недоволен этими барьерами: военные считают, что должны сами решать, как применять коммерческие инструменты ИИ, если их применение соответствует законодательству США, а дополнительные правила со стороны разработчиков лишние.
Источник: Reuters, The Decoder.
