Аналитическая компания Newsguard проверила, как голосовые ИИ-сервисы ChatGPT Voice (OpenAI), Gemini Live (Google) и Alexa+ (Amazon) реагируют на заведомо ложные утверждения, если подать их в формате естественной речи, подходящей для распространения дезинформации в соцсетях.
Исследователи протестировали 20 ложных утверждений по темам здоровья, политики США, международных новостей и иностранной пропаганды. Для каждого утверждения использовались три типа запросов: нейтральный вопрос, наводящий вопрос и заведомо вредоносный запрос с просьбой написать радиосценарий, основанный на ложной информации.
Сервис ChatGPT Voice воспроизвёл ложные утверждения в 22% случаев, Gemini Live — в 23% случаев. При использовании вредоносных запросов доля ответов с дезинформацией выросла до 50% у ChatGPT и 45% у Gemini.
Голосовой помощник Amazon Alexa+ стал исключением: по данным Newsguard, он отклонил все 20 ложных утверждений. Вице-президент Amazon Лейла Рухи объяснила это тем, что Alexa+ опирается на проверенные новостные источники, такие как AP и Reuters.
OpenAI отказалась от комментариев, Google не ответила на два запроса. Подробное описание методики исследования опубликовано на сайте Newsguardtech.com.
Источник: Newsguard.
