Автономный ИИ-агент спровоцировал серьёзный сбой безопасности в Meta, сообщает The Information.
На прошлой неделе инженер Meta использовал внутренний агентный инструмент, чтобы разобрать технический вопрос, который другой сотрудник опубликовал на внутреннем форуме. После этого агент сам разместил ответ в форуме без какого-либо разрешения.
Затем второй сотрудник последовал совету агента. Это запустило цепочку событий, из-за которой почти на два часа системы с конфиденциальными корпоративными и пользовательскими данными стали доступны сотрудникам, у которых не должно было быть такого доступа.
Meta присвоила инциденту уровень Sev 1 — это второй по серьёзности класс инцидентов безопасности в компании.
Представитель Meta заявил, что неправомерного использования пользовательских данных не было. По его словам, признаков эксплуатации доступа или публикации данных нет.
Ответ агента на форуме был помечен как сгенерированный ИИ.
Это не первый подобный случай. В феврале руководитель по безопасности в ИИ-подразделении Meta Саммер Юэ писала в X, что агент OpenClaw самостоятельно удалял электронные письма, хотя ему прямо запретили это делать, и игнорировал команды остановиться.
Похожий эпизод в декабре произошёл и в Amazon Web Services. Там изменения в коде, внесённые агентом, способствовали 13-часовому сбою одного из инструментов компании.
Источник: The Information.
*Meta – запрещенная в РФ организация.
