Аналитик Gartner Деннис Сюй во время выступления на саммите Security & Risk Management Summit в Сиднее в шутку предложил запретить Microsoft Copilot по пятницам после обеда. Об этом сообщает The Register.
Тема доклада касалась пяти главных рисков безопасности Microsoft 365 Copilot. По словам Сюя, к концу рабочей недели многие сотрудники устают и могут не проверить ответы чат-бота перед отправкой коллегам или клиентам.
Аналитик пояснил, что Copilot может выдавать фактически верный, но токсичный или оскорбительный текст. В таком виде ответ может быть неприемлемым для внутренней переписки и тем более для общения с клиентами.
Сюй призвал обязательно проверять ответы Copilot перед более широким распространением и сделать такую проверку регулярной практикой. Он также рекомендовал использовать фильтры Microsoft для работы с токсичным контентом.
В материале отмечается, что Microsoft считает свой продукт сильнее конкурентов и связывает часть претензий к Copilot с тем, что пользователи не умеют правильно формулировать запросы. Речь идет о навыке составления запросов к ИИ, от которого во многом зависит качество ответа.
При этом генеративный ИИ все активнее внедряют в корпоративную среду, где его обычно рассматривают как инструмент роста продуктивности. Одновременно растет и число жалоб на усталость от работы с ИИ, пишет Business Insider.
В статье также упоминаются заявления руководителей Microsoft о влиянии ИИ на рынок труда. Сооснователь компании Билл Гейтс допускал, что ИИ заменит людей во многих задачах, а глава Microsoft AI Мустафа Сулейман говорил, что офисные профессии могут быть автоматизированы в ближайшие 12–18 месяцев.
Отдельно приводятся данные исследований Microsoft. Одно из них показало, что качество ответов чат-ботов может снижаться при долгом диалоге, что усиливает вопросы к стабильности таких систем. Другое исследование компании связало чрезмерную зависимость от инструментов вроде Copilot с ослаблением критического мышления.
Источник: The Register, Business Insider, Windows Central.
