OpenAI готовит несколько обновлений для своей модели Codex в ближайшие недели. Об этом сообщил глава компании Сэм Альтман. Он предупредил, что новые функции впервые переведут модель на уровень “Высокий” по внутренней шкале киберрисков OpenAI. Следующий, самый опасный уровень — “Критический”.
По правилам OpenAI, “Высокий” уровень риска значит, что ИИ может обходить существующие барьеры для кибератак. Например, такие модели могут автоматизировать атаки на защищённые системы или находить уязвимости в программном обеспечении. Это может значительно увеличить число кибератак и повлиять на равновесие между защитой и нападением.
Альтман рассказал, что изначально OpenAI введёт продуктовые ограничения, чтобы не дать использовать Codex для киберпреступлений. Со временем компания начнёт сосредотачиваться на усилении защиты и помощи в устранении уязвимостей.
Альтман считает, что быстрая публикация новых ИИ-моделей необходима для повышения безопасности ПО, ведь впереди ещё более сложные инструменты. Он отметил, что “не публиковать тоже не выход”.
Для “Критического” уровня риска OpenAI указывает, что ИИ способен самостоятельно находить и использовать неизвестные уязвимости (“нулевого дня”) в важных и защищённых системах без участия человека, а также разрабатывать и проводить сложные атаки по минимальному описанию цели. Это может привести к взлому промышленных, военных или даже самих серверов OpenAI. Такие возможности угрожают появлением новых способов удалённого управления заражёнными системами и могут вызвать масштабные последствия.
