Американский исследователь Билл Свиринген заявил, что после 31 миллиона тестов научился по запросу создавать компьютерные паттерны, которые мешают распространённым системам видеонаблюдения и считывания номеров распознавать людей, автомобили и другие объекты.
Проект под названием noRecognition, по словам автора, помогает избежать автоматического обнаружения и алгоритмического наблюдения, которое используется в США и других странах. Эти паттерны не мешают камерам записывать видео, но нарушают работу алгоритмов, которые определяют лица, предметы и номерные знаки, из-за чего система не подаёт сигнал о найденном объекте.
«Конфиденциальность — это базовое право», — сказал Свиринген в разговоре с TechCrunch. Он добавил, что считает свои паттерны способом «отказаться от отслеживания».
Первую публичную проверку проекта Свиринген провёл в пятницу на конференции по кибербезопасности Def Con в Лас-Вегасе. Он показал паттерн, нанесённый на автомобиль, и заявил, что тот смог помешать обнаружению машиной камеры Flock в реальных условиях.
Во время демонстрации, проведённой при поддержке Donut Media, паттерном покрыли Toyota Yaris 2009 года. По словам Свирингена, тест подтвердил работоспособность метода, хотя колёса оказались проблемной частью. Donut Media сообщила, что видео с демонстрацией выйдет в ближайшие недели.
Свиринген рассказал, что занялся проектом из-за роста числа камер наблюдения. Он живёт в Канзас-Сити и говорит, что в его городе камеры установлены очень плотно, иногда в нескольких футах друг от друга. По его словам, люди не давали согласия на постоянное наблюдение так же, как он сам не соглашался на использование данных из водительских прав для систем распознавания лиц.
Исследователь также вспомнил, что в прошлом году хотел пойти на протест, но чувствовал дискомфорт из-за большого числа камер, которые могли отслеживать участников, реализующих право на свободу выражения мнения. По его словам, если такие опасения есть у него, то они есть и у других людей.
Свиринген отметил, что его работа опирается на более ранние попытки противодействовать системам распознавания. Ранее художники, бренды одежды и производители очков уже выпускали вещи, которые должны были мешать распознаванию лиц, хотя эффективность таких решений часто была ограниченной.
Он начал работу в прошлом году с лабораторного прототипа, в котором последовательно проверял, как можно обходить алгоритмы обнаружения видео с открытым исходным кодом. Затем он расширил вычислительные мощности и доработал паттерны, поблагодарив сообщество, которое помогло оборудованием.
Со временем прототип превратился в модель обучения с подкреплением. Это система, которая сама учится определять, какие паттерны работают против конкретных алгоритмов камер, а какие — нет. В упрощённом виде, как объяснил Свиринген, он научил модель «рисовать».
Если очередной паттерн не срабатывал и алгоритм всё же находил объект, модель запускала новую попытку. Так система постепенно пришла к вариантам, которые одновременно обходят несколько алгоритмов.
По словам автора, в итоге модель нашла рабочие схемы, способные обходить все 11 протестированных им открытых алгоритмов обнаружения. В их число вошло ПО, на котором работают считыватели номеров Flock, нательные камеры Axon и камеры с Clearview AI.
Сейчас модель, как утверждает Свиринген, создаёт новые паттерны каждую минуту, и каждый следующий набор математически лучше предыдущего. «Каждая неудача улучшает мою модель, и поэтому паттерны становятся всё лучше», — сказал он.
Следующим этапом Свиринген называет распространение паттернов среди желающих. Для этого noRecognition запустил краудфандинговую кампанию на продажу первых товаров с такими рисунками — от футболок до худи. В будущем автор допускает выпуск покрытий с паттернами и для автомобилей.
По его словам, цель состоит в том, чтобы паттерны были достаточно качественными и детализированными для работы на расстоянии, при этом выглядели как обычный дизайн одежды или поверхности. Самые сильные варианты он пока не публикует в интернете, чтобы производители камер не смогли быстро подстроить под них свои системы.
Источник: TechCrunch.
