Amazon усиливает контроль за использованием генеративного ИИ в разработке кода после серии сбоев, которые внутри компании связывают с инструментами автоматизации.
По данным Financial Times, старший вице-президент Amazon Дэйв Тредуэлл в внутреннем письме признал, что доступность сайта и связанной инфраструктуры в последнее время была неудовлетворительной. В служебной записке отмечается «тенденция инцидентов» с «широкими последствиями», связанными с изменениями кода при помощи генеративного ИИ.
Сообщается, что инструменты ИИ для программирования в Amazon могли способствовать по крайней мере двум недавним сбоям в работе AWS.
В ответ компания вводит новый порядок: все изменения кода, в которых использовался генеративный ИИ, должны получать одобрение старшего инженера для разработчиков начального и среднего уровня. Обычные ревью кода в Amazon существовали и раньше, однако отдельное требование для правок с участием ИИ вводится впервые.
Таким образом, опытные разработчики фактически становятся фильтром качества для кода, сгенерированного нейросетями. Их задача смещается от создания решений к проверке того, что создали алгоритмы.
Внутренняя записка также указывает среди причин инцидентов «новые сценарии применения генеративного ИИ, для которых ещё не выработаны практики и защитные механизмы».
Источник: Financial Times.
