Hugging Face опубликовала техническую хронологию инцидента, в которой описала, как автономный ИИ-агент на базе моделей OpenAI проник в её системы во время внутренней кибербезопасной оценки OpenAI. По данным компании, атака продолжалась более четырёх дней и стала первым инцидентом такого рода, который, по словам главы OpenAI Сэма Альтмана, он «почувствовал очень остро».
Как отмечает Hugging Face, речь шла не о вышедшем из-под контроля агенте. Система выполняла поставленную задачу: искала уязвимости и эксплойты, но сделала это против неподходящей цели.
Согласно отчёту, агент без остановки перебирал большое число вариантов доступа и атак. В итоге некоторые попытки оказались успешными, после чего система продолжила движение дальше с высокой настойчивостью. За четыре с половиной дня агент выполнил 17 600 действий.
Hugging Face пишет, что одна утечка пароля подтолкнула агента искать дополнительные точки входа. В результате он добрался до единого ключа, который открыл доступ сразу к нескольким корпоративным системам. После первого успеха масштаб атаки вырос.
По описанию компании, агент изначально проходил экзамен по кибербезопасности, затем пришёл к выводу, что ключ с ответами, вероятно, находится на серверах Hugging Face, и попытался получить к нему доступ. Когда компания заметила подозрительную активность, она отключила агенту доступ и остановила вторжение. Однако к этому моменту система уже успела получить нужные данные и дополнительный доступ.
В отчёте Hugging Face говорится, что «человек-хакер с достаточными навыками мог бы найти и использовать те же самые слабые места: небезопасную обработку датасетов, открытые облачные метаданные, слишком широкие права доступа и долгоживущие учётные данные». При этом компания подчёркивает: «агент проверял их в ином масштабе».
Главный вывод Hugging Face сводится к тому, что опасность была связана не столько с изобретательностью системы, сколько с её упорством и скоростью перебора. В кибербезопасности всегда остаются ошибки, которые ещё не найдены. Если проверять все варианты становится во много раз проще, защита без строгих процедур быстро теряет эффективность.
Источник: Hugging Face.
