Исследователи обнаружили уязвимость в Microsoft Copilot, которая позволяла получить коды двухфакторной аутентификации и другие конфиденциальные данные. О находке сообщила команда Varonis Threat Labs, пишет Ars Technica.
Уязвимость получила название SearchLeak. По словам исследователя Долева Талера, это «трёхэтапная цепочка уязвимостей, которая превращает Enterprise Search в Microsoft 365 Copilot в тихий инструмент для вывода данных».
Талер отметил, что этот случай показывает, как угрозы, связанные с ИИ, отходят от классических ошибок и становятся опаснее. «Вместе эти уязвимости показывают, как ИИ создаёт новые пути проникновения в системы, опираясь на старые слабые места, при этом их крайне трудно заметить командам безопасности», — сказал он.
SearchLeak использует уязвимость типа parameter-to-prompt injection. Злоумышленник отправляет пользователю вредоносную ссылку с параметром q, который предназначен для поисковых запросов на естественном языке.
Как пояснили исследователи, этот параметр можно встроить в обычный URL. В результате ИИ-система Copilot воспринимает ссылку как поисковый запрос и одновременно как инструкцию к выполнению.
Если пользователь переходит по такой ссылке, открывается Microsoft 365 Copilot Search. Сервис интерпретирует параметр как команду для поиска по электронной почте пользователя, после чего может сформировать ответ, в который чувствительные данные встраиваются в URL изображения и выводятся через Bing.
По данным Varonis, для атаки достаточно доступа пользователя к важной информации. Злоумышленник формирует ссылку с инструкцией найти письма пользователя, извлечь заголовок и встроить его в URL изображения.
Компания Microsoft заявила, что уязвимость не использовалась в реальных атаках и уже закрыта. При этом она отнесла проблему к критическим.
Varonis отдельно указала, что SearchLeak затрагивает корпоративный уровень Microsoft. «Поскольку SearchLeak нацелен на Enterprise-версию Microsoft, последствия не ограничиваются личными данными — уязвимость может вывести всё, к чему у пользователя есть доступ внутри организации, включая письма, приглашения на встречи и заметки», — сообщили в компании.
Исследователи добавили, что риск также касается документов SharePoint, файлов OneDrive и другого корпоративного контента, который индексируется в Microsoft 365. При определённой настройке M365 охват атаки может быть ещё шире.
По оценке исследователей, эксплойт мог дать доступ к таким данным, как темы и содержимое писем, коды активации MFA/2FA, детали встреч и файлы, которые Copilot индексирует от имени пользователя.
Источник: Ars Technica, Varonis Threat Labs.
