OpenAI обнародовала доклад о киберугрозах, в котором описала злоупотребления своими ИИ-моделями со стороны международных мошенников и политических игроков. Злоумышленники действовали в странах от Северной Кореи и России до Камбоджи.
В одном из случаев мошенники использовали ChatGPT для составления писем на разных языках, предлагая людям заработать свыше пяти долларов за лайки в соцсетях — гораздо больше реальных рыночных ставок, где за тысячу лайков платят меньше десяти долларов.
Схема включала три этапа: сначала заманивание нереалистичными предложениями (“ping”), затем создание доверия поддельными отзывами и небольшими выплатами (“zing”), а в финале требование денег за участие или переводы в криптовалюте (“sting”).
Расследование началось случайно — сотрудник OpenAI получил подобное сообщение на свой номер и заметил, что жертве предлагали продолжить общение через WhatsApp, после чего переводили к “ментору” в Telegram.
OpenAI также заблокировала российскую кампанию влияния, задействовавшую ChatGPT для создания контента на немецком языке перед выборами в Германии в 2025 году. Операция “Helgoland Bite” использовала Telegram-канал и аккаунт X (“Nachhall von Helgoland”, более 27 000 подписчиков). Публикации критиковали США и НАТО, а также продвигали партию AfD. Через ChatGPT искали информацию об оппозиционных активистах и переводили российскую пропаганду на немецкий. OpenAI отмечает, что кампания имела ограниченный охват.
Компания выявила несколько кампаний, связанных с Китаем. Сеть “Sneer Review” публиковала комментарии по международным темам в TikTok и X, атакуя критиков Китая, в том числе пакистанского активиста Махранг Балоч. Другой проект — “VAGue Focus” — собирал данные о западных пользователях через фальшивые медиа-аккаунты. “Uncle Spam” засыпал политические обсуждения в США противоречивыми высказываниями и использовал ИИ-фото лже-ветеранов.
Всего OpenAI обнаружила десять международных операций, где ее ИИ применялся для мошенничества, манипуляций и преступлений.
