Распространение ИИ упростило заполнение форм и подачу жалоб, из-за чего государственные сервисы в разных странах столкнулись с резким ростом числа обращений.
В Великобритании число жалоб в жилищный омбудсмен выросло более чем вдвое после появления ChatGPT: с 2600 в 2022 году до более чем 7000 в прошлом году. В США Бюро по финансовой защите потребителей, CFPB, за тот же период зафиксировало рост жалоб в пять раз. Похожие скачки отмечены в Бразилии по судебным ходатайствам и в Германии по парламентским петициям.
Исследователь Крис Шмитц отслеживает этот тренд и называет его agentic flooding. В работе, которую представят в следующем месяце на конференции AI Ethics and Society, он изучил 84 случая возможного такого роста в 11 юрисдикциях и пришёл к выводу, что инструменты ИИ меняют способ взаимодействия людей с государственными сервисами.
Шмитц анализировал сервисы от заявок на социальную помощь до официальных судебных апелляций. Их объединяет то, что у всех есть онлайн-каналы подачи, доступные для ИИ-помощников.
По методике исследования автор не утверждает прямо, что именно ИИ вызвал всплеск новых обращений. Однако в большинстве из 84 случаев картина была схожей: до 2022 года число подач оставалось примерно стабильным, а затем начало расти всё быстрее по мере распространения ИИ. При этом в большинстве случаев рост пока не замедляется, что может указывать на продолжение тренда в ближайшие годы.
По словам Шмитца, рост использования таких инструментов объясним. «Люди понимают, что так можно делать, и постепенно это становится всё проще… раньше нужно было собирать много контекста и очень точно формулировать запрос для ChatGPT 3.5, а теперь бывает достаточно просто вставить текст или сфотографировать письмо в приложении Claude и сразу получить хороший ответ», — сказал он.
Похожую динамику в прошлом году наблюдали и программы bug bounty, где компании получают сообщения об уязвимостях. Их почтовые ящики оказались переполнены низкокачественными отчётами, созданными с помощью больших языковых моделей. Даже если в них не было серьёзных проблем безопасности, компании всё равно должны были проверять каждое сообщение, что заметно увеличивало нагрузку на команды.
С государственными сервисами может возникнуть схожая ситуация: им приходится обрабатывать в разы больше заявок при том же бюджете. Но, в отличие от потока бесполезных сообщений в bug bounty, Шмитц считает, что большинство новых обращений подают реальные люди с законными требованиями.
«В подавляющем большинстве случаев мы видим людей, которые действительно имеют право что-то требовать и подают заявление именно на это», — сказал Шмитц в комментарии TechCrunch.
Если раньше эти люди не обращались за выплатами или услугами, причиной могла быть слишком высокая административная нагрузка. Теперь ИИ может снять часть этой нагрузки и дать повод пересмотреть работу таких сервисов с учётом новых сценариев использования.
Шмитц считает, что задача будет большой, но видит в этом и повод для оптимизма. «Важная часть успешного внедрения ИИ — это понять, как выглядит хороший сценарий его применения. Любой, кто использовал ChatGPT для налоговой декларации, знает, что здесь возможен вариант, где технология действительно помогает», — сказал он. По его словам, сейчас подходящий момент, чтобы заново пересмотреть почти весь процесс работы таких систем.
Источник: TechCrunch, исследование Криса Шмитца для конференции AI Ethics and Society.
