Операционный директор Google Cloud Франсис де Соуза призвал компании закладывать безопасность в ИИ-стратегию с самого начала. На мероприятии в Лос-Анджелесе он заявил, что стратегии работы с ИИ не может быть без стратегии по данным и защите.
Как сообщает TechCrunch, де Соуза предупредил о рисках «теневого ИИ» — случаев, когда сотрудники используют ИИ-инструменты без контроля со стороны компании. Он также указал на ИИ-агентов, которые могут находить забытые источники данных, например старые серверы SharePoint внутри организаций.
По его словам, поверхность атаки давно вышла за пределы обычного сетевого периметра. «Помимо вашей обычной инфраструктуры, теперь есть модели, есть конвейеры данных для обучения моделей, есть агенты и есть промпты. Все это нужно защищать».
Де Соуза добавил, что время между первым взломом и следующим этапом атаки сократилось с восьми часов до 22 секунд. На этом фоне он выступает за защиту на базе агентов: «Вместо защиты, которую ведет человек, или даже схемы, где человек участвует в процессе, теперь люди могут контролировать полностью агентную защиту».
Он подчеркнул, что безопасность ИИ — это вопрос уровня совета директоров, а не только задача ИТ-отдела. «Безопасность нельзя добавить позже, и нельзя перекладывать ее на сотрудников».
По словам де Соузы, компаниям нужна единая стратегия защиты для всех облачных платформ и моделей, даже если им кажется, что они работают только с одним провайдером. Причина в том, что SaaS-сервисы и бизнес-партнеры почти всегда добавляют в инфраструктуру несколько облаков.
Источник: TechCrunch.
