OpenAI оказалась под огнём критики после того, как компания подписала контракт с американским Министерством обороны (в тексте исходно фигурирует Department of War) вскоре после отказа Anthropic от аналогичного соглашения.
Несколько дней назад президент Дональд Трамп распорядился федеральным ведомствам прекратить использование технологий Anthropic. Причина — жёсткая позиция компании против массовой слежки за населением США и автономных систем вооружений.
Практически сразу после этого контракт получила OpenAI. Компания заявляет, что провела те же самые «красные линии», что и Anthropic. Однако пока непонятно, почему Пентагон согласился на условия OpenAI, но отклонил предложения Anthropic, и этот вопрос активно обсуждают.
Реакция пользователей была быстрой: многие публично поддержали Anthropic, а приложение Claude вышло на первое место в App Store, обогнав ChatGPT. На фоне давления OpenAI опубликовала подробный пост о контракте и провела сессию вопросов и ответов в X с участием Сэма Альтмана и сотрудников компании.
В посте OpenAI описывает три ключевых ограничения для сотрудничества с военным ведомством: запрет на массовую слежку внутри США, запрет на автономные системы вооружений и запрет на автоматизацию решений с высоким уровнем риска.
Главный спорный момент — формулировка «для всех законных целей». OpenAI разрешила Пентагону использовать свои модели для «всех законных целей» в обмен на технические гарантии безопасности. Anthropic отказалась от тех же слов, указав, что действующее законодательство оставляет слишком много лазеек.
Глава Anthropic Дарио Амодеи в интервью CBS привёл пример: правительство США может покупать коммерческие датасеты и анализировать их с помощью ИИ. Формально это может не подпадать под юридическое определение «массовой слежки внутри США». «На самом деле это не является незаконным. Раньше это просто не имело смысла до эпохи ИИ», — сказал Амодеи.
OpenAI пишет, что её ИИ не может «самостоятельно направлять автономное оружие в случаях, когда закон, регулирование или политика ведомства требуют контроля со стороны человека, и также не будет применяться для других решений высокой значимости, где требуется одобрение человека по тем же правилам».
Однако соответствующая директива Министерства обороны не требует обязательного человеческого одобрения перед применением силы. В документе говорится лишь о «надлежащем уровне человеческого суждения при применении силы», при этом понятие «надлежащий» никак не уточняется. По данным источников, Anthropic добивалась более чёткого требования о контроле со стороны человека, чего нынешняя формулировка не гарантирует.
Технический аргумент OpenAI состоит в том, что её архитектура, полностью завязанная на облако, исключает «полностью» автономные системы вооружений, так как для этого якобы требуется развёртывание модели на борту (edge). Но система с беспилотником, который запрашивает целеуказание у модели OpenAI через сервер, формально не является «edge»-сценарием и тоже не обеспечивает гарантированный контроль человека. Связь с сервером не равна участию человека в цепочке принятия решения.
При этом Амодеи не утверждает, что по принципу выступает против полностью автономного оружия. Он отмечает, что современные языковые модели пока работают недостаточно устойчиво и точно, чтобы применять их в таком контексте, а значит, они создают риск для населения США.
Профессор компьютерных наук Гарварда и сотрудник OpenAI по совместительству Боаз Барак пишет: «Когда мы говорим, что массовая слежка внутри страны и автономное летальное оружие — это для нас красные линии, мы действительно это имеем в виду и не ищем лазеек».
Комментируя проблему коммерческих датасетов, поднятую Амодеи, Барак говорит, что Министерство обороны предоставит больше подробностей «в ближайшие дни». При этом он признаёт: «Правда в том, что всё решают детали, и я, как и другие, буду смотреть, как эта сделка реализуется на практике».
Позиция Катрины Маллиган, которая возглавляет направление национальной безопасности в OpenAI, звучит слабее. Она утверждает, что нельзя одновременно не доверять трактовке законов и контрактов со стороны правительства и при этом считать, что договорные ограничения Anthropic сработали бы.
Однако такой подход упускает суть претензий. Anthropic выступала против самой логики фиксации «красных линий» через формулу «все законные цели» и привязку к уже существующим законам и директивам. Компания требовала прямых и чётких исключений, которые сокращают возможности для интерпретаций — независимо от того, как в каждом конкретном случае трактуется слово «законный» и к какому документу отсылается договор. При этом Anthropic не ставила под сомнение значимость контрактов как таковых.
Сэм Альтман утверждает, что хотел снизить напряжение и заложить общую основу для всех лабораторий ИИ. По его словам, он не знает, какие именно условия предлагали Anthropic: «Я не знаю деталей их предложения. Если им в итоге предложили те же условия, что и нам, то да, я считаю, им следовало согласиться». Альтман говорит, что просил Пентагон предложить те же условия всем компаниям.
При этом более сильным шагом было бы, если бы OpenAI и Google согласовали те же «красные линии» вместе с Anthropic. В таком случае компания Илона Маска xAI, вероятно, осталась бы в стороне, однако её технологии сейчас оценивают как уступающие лидерам. Совместный отказ ведущих лабораторий ИИ дал бы Пентагону меньше пространства для манёвра. Подписав контракт в одиночку, OpenAI ослабила позицию Anthropic и уменьшила общие возможности отрасли отстаивать жёсткие рамки.
Отдельный вопрос — должны ли частные компании иметь фактическое право вето в отношении военных решений в демократической стране. Но с учётом текущей политической ситуации в США, где власти уже не раз демонстрировали готовность игнорировать правовые ограничения в кризисных ситуациях, доверие к гарантиям OpenAI по контракту будет снижаться.
Источник: The Decoder.
