Крупные российские компании начали развивать инфраструктуру для контроля автономных ИИ-агентов. За последний год спрос бизнеса на такие решения вырос примерно втрое, сообщают «Известия».
Интерес к таким системам растёт на фоне более активного использования ИИ-агентов вместо обычных чат-ботов. Такие системы могут самостоятельно выполнять задачи, работать с корпоративными данными и запускать другие сервисы.
По данным «Известий», примерно в 80% случаев компании хотят контролировать доступ нейросетей к внутренней информации, проверять критически важные решения ИИ и снижать риск утечек.
Для управления агентами компании создают harness — слой контроля, который задаёт, к каким данным и инструментам получает доступ ИИ-система, как она выполняет многошаговые задачи и в каких случаях должна запросить подтверждение у человека.
«Яндекс» развивает собственные технологии маршрутизации запросов и harness-решения для пользовательских и корпоративных продуктов, сообщили изданию. В MWS AI, которая входит в МТС Web Services, заявили, что работают над системой, позволяющей переключаться между разными моделями, контролировать расход вычислительных ресурсов и анализировать действия агентов.
«Сбер» уже применяет собственную инфраструктуру управления моделями и агентами в GigaАгенте, GigaCode и корпоративном GigaCowork, передают «Известия».
По данным ИТ-холдинга Т1, на которые ссылается издание, активнее всего такими решениями интересуются банки, промышленность, госструктуры и ритейл. Основные запросы связаны с управлением доступом к корпоративной информации и защитой от утечек, а также с подтверждением критически важных решений ИИ.
В ГК «Солар» сообщили, что языковая модель сама по себе не всегда может отличить данные от команды. По словам компании, защитный слой должен отдельно анализировать запросы, ответы и действия ИИ и блокировать потенциально опасные операции по заданным правилам.
Эксперты ожидают, что рынок таких решений продолжит расти. Уже в 2026 году российский рынок продуктов для защиты ИИ может составить 1–2 млрд рублей, а с учётом услуг — до 4 млрд рублей.
По оценке сооснователя университета «Зерокодер» Кирилла Пшинника, к концу 2029 года объём рынка таких продуктов может достичь около 5 млрд рублей. Он считает, что основную выручку будут приносить не сами программы, а их внедрение, интеграция и дальнейшее сопровождение.
Источник: «Известия», RB.RU
