Американское правительство провело исследование, в ходе которого выявлено 139 новых способов взлома ведущих ИИ-систем, однако его результаты не опубликовали из-за политических причин.
В октябре прошлого года примерно 40 специалистов по ИИ участвовали в двухдневном тестировании на конференции по безопасности в Арлингтоне, штат Вирджиния. Мероприятие было частью программы ARIA, организованной Национальным институтом стандартов и технологий США (NIST) совместно с компанией Humane Intelligence. Итоги этого исследования официально так и не были раскрыты — по информации WIRED, из-за политического давления.
Во время этого тестирования группы искали уязвимости в разных ИИ-системах, включая Llama от компании Meta*, платформу Anote, генератор аватаров Synthesia и систему безопасности от Robust Intelligence (ныне часть Cisco). На месте присутствовали представители всех компаний.
Целью было проверить, могут ли эти ИИ-системы противостоять попыткам злоупотребления: например, распространению дезинформации, утечке личных данных, созданию нездоровых эмоциальных связей между пользователями и ИИ. Тесты проводили по официальной схеме NIST AI 600-1, однако часть ее категорий оказалась “слишком размыта для практического применения”, отмечали участники.
В ходе мероприятия исследователи нашли 139 новых методов обхода защит. Например, ИИ-модель Llama можно было попросить рассказать, как вступить в террористическую группу, если задать запрос на русском, маратхи, телугу или гуджарати. Другие системы позволяли получить чужие личные данные или советы для кибератак.
Готовый доклад по итогам тестирования так и не был опубликован. Несколько осведомленных источников рассказали WIRED, что результаты не обнародовали, чтобы избежать конфликтов с новой администрацией Дональда Трампа. Один из бывших сотрудников NIST заявил: “Публиковать подобные исследования даже при Байдене было очень сложно” и сравнил это с давлением на исследования по изменению климата или табаку в прошлом.
Министерство торговли США и NIST отказались комментировать ситуацию.
Ирония в том, что в июльском плане администрации Трампа по развитию ИИ используются те же формы тестирования, которые были описаны в неопубликованном отчете. В этом документе также предложено пересмотреть структуру работы NIST: исключить термины “дезинформация”, “разнообразие, равенство и инклюзия” (DEI), а также “изменение климата”.
Один из анонимных участников считает, что доклад скрыли из-за политического сопротивления теме DEI. По другой версии, основное внимание государства теперь направлено на предотвращение использования ИИ для создания оружия массового поражения.
*Meta — запрещенная в РФ организация.
