OpenAI добавила в ChatGPT Lockdown Mode — режим, который отключает доступ к интернету, Deep Research и Agent Mode для защиты от кражи данных через prompt injection. Функция рассчитана прежде всего на пользователей и компании, которые работают с чувствительной информацией.
Режим блокирует все возможности, которые подключают ChatGPT к сети или внешним сервисам. OpenAI объясняет, что это нужно для защиты от prompt injection — скрытых инструкций в тексте или файлах, которые могут изменить поведение модели и помочь вывести данные пользователя.
При включённом Lockdown Mode поиск в интернете ограничен кэшированным контентом, поэтому результаты могут быть устаревшими или вовсе недоступными. Deep Research и Agent Mode отключаются полностью. ChatGPT также перестаёт скачивать файлы, не показывает веб-изображения в обычных ответах, а сгенерированный в Canvas код теряет доступ к сети.
OpenAI называет prompt injection «передовой и трудной исследовательской задачей», над которой компания продолжает работать. При этом сама уязвимость известна как минимум со времён GPT-3, часто использовалась на практике, а годы исследований пока не дали полного решения.
По сути, Lockdown Mode не устраняет саму уязвимость, а лишь ограничивает один из этапов атаки. Режим дополняет уже существующие меры защиты, включая песочницы, защиту от вывода данных через URL, мониторинг и контроль доступа. Однако скрытая инструкция в загруженном файле всё ещё может повлиять на поведение модели и привести к неверным ответам. Новый режим блокирует только финальный шаг цепочки — попытку отправить данные злоумышленнику через сетевые запросы.
В FAQ OpenAI говорится, что сейчас prompt injection «не является крупным риском», но его влияние может вырасти по мере того, как атакующие будут использовать более продвинутые методы. Компания также прямо указывает, что Lockdown Mode не гарантирует полной защиты.
Для личных аккаунтов и самостоятельно управляемых аккаунтов ChatGPT Business режим можно включить в разделе Settings > Security. В управляемых рабочих пространствах администраторы могут настраивать его через RBAC — ролевое управление доступом — для отдельных пользователей или групп.
Пользователи могут временно отключать Lockdown Mode для отдельных чатов, если им нужен полный набор функций в конкретной переписке. При этом режим несовместим с Developer Mode.
Для приложений и коннекторов OpenAI вводит разные правила в зависимости от типа аккаунта. В личных аккаунтах Lockdown Mode разрешает коннекторы, которые работают с уже синхронизированными данными, но блокирует доступ к актуальным данным, операции записи, а также финансовые и торговые функции. В управляемых рабочих пространствах компания советует администраторам включать только проверенные приложения и отдельно оценивать риск вывода данных для каждого из них.
Источник: The Decoder, OpenAI.
