Microsoft сообщила о баге в Microsoft 365 Copilot Chat, из-за которого сервис с конца января мог анализировать и кратко пересказывать конфиденциальные письма без согласия пользователей. Инцидент усилил опасения по поводу безопасности генеративного ИИ.
Генеративный ИИ уже вышел за рамки простых чат-ботов для текста и изображений. Руководители крупных ИИ‑лабораторий, включая CEO Microsoft AI Мустафу Сулеймана и CEO Anthropic Дарио Амодеи, считают, что технология в ближайшие 18 месяцев может начать вытеснять начальные офисные позиции. При этом часть пользователей по-прежнему с осторожностью внедряет такие инструменты из-за рисков для конфиденциальности.
По данным Microsoft, сбой затронул чат во вкладке work в Microsoft 365 Copilot и позволял ему получать доступ к письмам во входящих, отправленных и черновиках, включая сообщения с установленной меткой «конфиденциально» и действующей политикой DLP. Эти письма должны были быть защищены от обработки автоматическими инструментами.
«Чат во вкладке work в Microsoft 365 Copilot резюмирует электронные письма, хотя к ним применена метка конфиденциальности и настроена политика DLP. Письма пользователей с меткой конфиденциальности обрабатываются Microsoft 365 Copilot chat некорректно», — говорится в уведомлении компании, на которое ссылается BleepingComputer.
Баг отслеживается под идентификатором CW1226324. Microsoft объясняет проблему ошибкой в коде, из-за которой элементы в папках отправленных и черновиков всё равно подхватывались Copilot, несмотря на конфиденциальные метки.
Microsoft начала внедрять Copilot Chat в основные продукты Microsoft 365 — Word, Excel, PowerPoint, Outlook и OneNote — для владельцев подписки, позиционируя его как персонального ИИ‑помощника для работы.
По словам компании, исправление бага начали разворачивать в начале февраля 2026 года. Microsoft отслеживает эффект патча и связывается с затронутыми клиентами, чтобы проверить, решена ли проблема. Срок завершения полного развертывания исправления не раскрывается, как и количество пользователей, на которых повлиял сбой.
Источник: BleepingComputer, Microsoft.
