OpenAI скорректировала условия контракта с Министерством обороны США после резкой критики внутри компании и со стороны пользователей, пишет The New York Times. Поводом стало решение заменить Anthropic в сделке с Пентагоном и разрешить использование своих моделей для «всех законных целей».
Сотрудники OpenAI публично поставили под вопрос сотрудничество с военным ведомством, а часть пользователей ChatGPT закрыла аккаунты и перешла на Claude от Anthropic, что вывело этот чат-бот на первое место в App Store. Это привлекло внимание руководства компании.
Теперь в контракт с Министерством обороны внесены новые ограничения. Генеральный директор OpenAI Сэм Альтман опубликовал их на платформе X, передав для общественности сообщение, сначала написанное для сотрудников.
Ключевое изменение: запрет на целенаправленное использование ИИ для слежки за гражданами и резидентами США. Это распространяется и на косвенные сценарии, связанные с анализом коммерчески приобретённых персональных данных. В обновлённом тексте говорится, что в соответствии с применимыми законами, включая Четвёртую поправку к Конституции США, Закон о национальной безопасности 1947 года и FISA 1978 года, система ИИ не может использоваться для внутреннего наблюдения за американскими гражданами и резидентами.
Отдельно уточняется, что это ограничение исключает умышленное отслеживание, наблюдение или мониторинг граждан и резидентов США, включая такие действия через закупку и использование коммерческих персональных или идентифицирующих данных. Министерство обороны прямо признаёт этот запрет в формулировке контракта.
Также Минобороны подтверждает, что спецслужбы, включая Агентство национальной безопасности (NSA), не могут использовать сервисы OpenAI в рамках этого соглашения. Для них потребовался бы отдельный договор с иными условиями.
Альтман подчёркивает, что технологии OpenAI «не готовы» для многих сценариев, а компания пока не до конца понимает, какие меры защиты необходимы для безопасного внедрения. По его словам, эти вопросы будут прорабатываться совместно с Пентагоном постепенно, включая технические ограничения и дополнительные механизмы контроля.
Он также заявляет, что OpenAI намерена действовать через демократические процедуры и откажется выполнять противоречащие Конституции США распоряжения. Альтман признаёт, что первоначальное объявление в пятницу было сделано поспешно и без должных разъяснений.
Кроме того, он повторяет позицию, что Anthropic не должна считаться поставщиком категории Security Critical Provider (SCR) и должна получать те же условия контракта, что и OpenAI. Компания выступает за одинаковые правила для конкурента.
Исследователь OpenAI Ноам Браун, один из авторов прошлогоднего прорыва в моделях рассуждения, публично поддержал обновлённые условия на X. Он отмечает, что исходная редакция договора оставляла слишком много неясностей, особенно в части новых возможностей ИИ для наблюдения.
«Формулировки теперь обновлены с учётом этих вопросов, но я также твёрдо убеждён, что безопасность людей не должна зависеть от доверия к лабораториям ИИ или разведывательным структурам», — пишет Браун. Он считает, что эти пробелы нужно закрывать через демократические процедуры до расширения доступа спецслужб к таким технологиям. Иначе существует риск постепенного вытеснения демократического контроля из ключевых решений, предупреждает он.
Браун добавляет, что намерен активнее участвовать в формировании политики OpenAI в сфере ИИ. С учётом скорости развития исследований он считает важным, чтобы у исследователей был голос при принятии таких решений.
Резкий пересмотр позиции OpenAI произошёл на фоне серии утечек за выходные. Они показывают, что компания активно продвигала сделку с Пентагоном, пока Anthropic ещё вела переговоры. По данным The New York Times, Альтман связался с руководителем по технологиям Пентагона Эмилем Майклом уже на следующий день после того, как военное ведомство выдвинуло Anthropic ультиматум.
В течение 24 часов стороны согласовали базовые условия. OpenAI приняла формулировку о «всех законных вариантах использования» своих моделей — именно этих слов пытался избежать Anthropic в своём договоре.
Источник: The New York Times, сообщения Сэма Альтмана и Ноама Брауна на X.
