AWS представила сервисы для безопасных ИИ-агентов

На AWS Summit в Нью-Йорке облачное подразделение Amazon представило несколько сервисов, которые должны помочь компаниям запускать ИИ-агентов в рабочей среде. Ключевые анонсы — AWS Continuum для работы с уязвимостями в коде и AWS Context как общая база знаний для агентов.

Обе новинки решают типовые проблемы при внедрении агентов: им часто не хватает бизнес-контекста, а риски безопасности растут из-за быстрого увеличения объёма кода, созданного ИИ.

AWS Continuum охватывает полный цикл работы с уязвимостями: от поиска и приоритизации до проверки и рекомендаций по исправлению. Сервис пока доступен только ограниченному кругу пилотных клиентов.

Как пишет AWS в своём блоге по безопасности, развитие специализированных моделей для ИБ, включая Claude Mythos от Anthropic, ускорило поиск уязвимостей и построение возможных путей атак. На этом фоне традиционные подходы с упором на сбор данных, хранение и панели мониторинга уже не справляются с нужной скоростью, а очередь нерешённых проблем продолжает расти.

Continuum анализирует уже открытые уязвимости и самостоятельно ищет новые. После этого сервис ранжирует находки с учётом бизнес-контекста: достижим ли затронутый компонент и используется ли он в продакшене.

На этапе проверки сервис пытается воспроизвести успешную атаку в изолированной тестовой среде, чтобы отделить ложные срабатывания от реальных рисков. Затем он предлагает конкретные меры: изменить сетевую конфигурацию, скорректировать права доступа или внести патч в код.

Для разных задач Continuum выбирает разные передовые модели. Автоматизация обработки уязвимостей будет расти постепенно: сначала сервис работает в режиме обучения, где требуется подтверждение от человека, а затем команды смогут перевести его в режим принудительного применения исправлений, когда система сама вносит заранее заданные изменения.

Дополнительный инструмент для моделирования угроз автоматически строит сводку возможных сценариев атаки на основе проектной документации или исходного кода.

AWS Context автоматически строит граф знаний из уже существующих корпоративных данных и открывает его для всех агентов внутри компании. Такой граф связывает отдельные данные в сеть отношений и помогает агенту понять, какая таблица относится к какому клиенту и какой источник считается основным для конкретной информации.

Сервис извлекает эти связи из баз данных, документов, писем и сообщений в чатах, а затем добавляет бизнес-правила и знания по предметной сфере. По версии AWS, без такого слоя агенты слишком часто дают уверенные, но неверные рекомендации.

Context построен на той же базе графа знаний, что и ИИ-помощник Amazon Quick. Метаданные из подключённых источников сохраняются в AWS-хранилище в открытом табличном формате, поэтому клиентам не нужно строить отдельный конвейер загрузки данных и можно продолжать использовать текущие инструменты.

Встроенные механизмы контроля доступа ограничивают доступ агентов только разрешённой информацией. С каждым запросом сервис также учитывает, какие источники дают более точные результаты, поэтому следующие агенты могут использовать опыт предыдущих.

На этапе тестирования AWS DevOps Agent получает две новые функции для работы с растущим объёмом кода, созданного ИИ. Первая — Release Readiness Review: агент проверяет каждое изменение кода на соответствие требованиям продакшена и ищет зависимости, которые могут вызвать проблемы между разными репозиториями.

Команды могут задавать правила для такой проверки обычным языком. Результаты появляются как комментарии в GitHub или GitLab, а также доступны из среды разработки через плагин для Kiro или Claude Code.

Вторая функция строит план тестирования на основе конкретного изменения и запускает его в среде, близкой к продакшену, вместо использования статического набора тестов. Предварительная версия сначала будет бесплатной в регионе US East.

Новый слой тестирования появился после серии инцидентов внутри самой AWS. В феврале появились сообщения, что инструменты Amazon для ИИ-кодинга якобы были связаны как минимум с двумя сбоями AWS. В одном случае отключение длилось 13 часов после того, как Kiro решил удалить и заново собрать среду. После этого Amazon ввела внутреннее правило, по которому весь код, созданный ИИ, должны утверждать опытные инженеры.

AWS также выпускает своего кодового агента Kiro на смартфонах в виде нативного приложения для iOS. Сами сессии по-прежнему выполняются в облаке, а телефон используется как интерфейс для запуска задач, просмотра изменений в коде и их утверждения. Синхронизация идентификации, настроек моделей и подключённых репозиториев работает между IDE, веб-версией и мобильным устройством. Доступ будет только у платных клиентов.

Платформа Bedrock AgentCore для запуска агентов в рабочей среде получит управляемую базу знаний с коннекторами к S3, SharePoint, Confluence и Google Drive, а также встроенный веб-поиск. За счёт интеграции с внутренними фильтрами безопасности действия агентов можно проверять на манипулятивные запросы, вредоносный контент и утечки данных.

В будущем AWS также планирует добавить сигналы от сторонних поставщиков безопасности, включая Check Point, Zscaler, Rubrik, Netskope и SentinelOne.

Источник: The Decoder, AWS.

Читать новости ИИ и технологий в Telegram.


Оцените статью
Gimal-Ai