По данным расследования шведских изданий Svenska Dagbladet и Goteborgs-Posten, улучшение ИИ в умных очках Meta Ray-Ban связано с ручной разметкой приватных записей пользователями, которой занимаются сотрудники компании Sama в Найроби (Кения). В их распоряжении оказываются видео с обнажёнными людьми, сценами секса и банковской информацией.
Meta продвигает очки Ray-Ban на своём сайте как продукт, созданный «с учётом вашей конфиденциальности», подчёркивая, что пользователь сам контролирует, что и когда делится.
Однако условия использования ИИ-функций очков описывают иную практику. В политике конфиденциальности указано, что голосовые записи хранятся для улучшения продукта только при активном согласии, но ИИ-ассистент автоматически обрабатывает речь, текст, изображения и иногда видео для работы сервиса, и эти данные могут передаваться третьим сторонам. Отключить такую обработку пользователи не могут.
Согласно расследованию, видеоданные с очков попадают к аннотаторам Sama, подрядчика Meta в Найроби. Там сотрудники обучают ИИ-системы Meta, помечая, описывая и классифицируя объекты на изображениях и видео.
По рассказам работников, на экранах они видят записи, которые сильно отличаются от привычного пользовательского контента. Это клипы, где люди выходят из ванной раздетыми, переодеваются или занимаются сексом, пока очки продолжают снимать. Один из сотрудников заявил: «Мы видим всё – от гостиных до голых тел. У Meta есть такой контент в своих базах данных».
Другие записи включают случайно снятые банковские карты или пользователей, смотрящих порнографию в очках. В задачи работников также входит проверка транскриптов: они сверяют, правильно ли ответил ИИ-ассистент. При этом аннотаторы сталкиваются с чатами о преступлениях, протестах и сексуальных темах. Один из них отметил, что это «далеко не только приветствия, это могут быть очень мрачные вещи».
Сотрудники подписывают обширные соглашения о неразглашении. В офисах установлены камеры, личные телефоны и устройства записи запрещены. По словам работников, те, кто задаёт вопросы, рискуют потерять работу, которая часто является единственным шансом выбраться из бедности.
Для того чтобы очки Meta могли распознавать объекты, понимать речь и интерпретировать сцены, исходные данные сначала должны обработать люди. Это касается как визуальной информации, так и разговоров с ассистентом.
Бывшие сотрудники Meta в США подтвердили шведским журналистам, что чувствительные данные не должны использоваться для обучения ИИ, а лица на данных для разметки автоматически размываются. Однако аннотаторы в Кении утверждают, что анонимизация срабатывает не всегда.
По их словам, лица, которые должны быть скрыты, иногда остаются видимыми. Один из бывших сотрудников Meta рассказал, что алгоритмы периодически ошибаются, и «особенно в сложных условиях освещения некоторые лица и тела становятся видимыми».
Юрист по защите данных организации None Of Your Business (NOYB) из Вены Клеанти Сардэли видит серьёзную проблему с прозрачностью. Она отмечает, что пользователи могут не осознавать, что камера записывает, когда они обращаются к ИИ-ассистенту в очках, а характер видео, которые обрабатывает Sama, указывает именно на это.
«Если это происходит в Европе, то отсутствуют и прозрачность, и правовое основание для такой обработки», — заявила она шведским изданиям. Юрист считает, что для обучения ИИ должен требоваться явный согласие пользователя. По её словам, как только материалы попадают в модели, пользователь фактически теряет контроль над тем, как они используются.
Сейчас у Евросоюза нет решения о достаточном уровне защиты данных для Кении. Диалог между ЕС и Кенией начался только в мае 2024 года. В своей политике конфиденциальности Meta указывает, что пользовательские данные передаются, хранятся и обрабатываются по всему миру, так как «Meta — это компания, которая работает глобально».
Юрист шведского регулятора по защите данных IMY Петра Вируп подчеркнула, что если Meta выступает контролёром данных в рамках GDPR, то гарантии должны распространяться и на субподрядчиков в третьих странах и не могут быть ослаблены при передаче данных.
Компания Sama уже оказывалась в центре скандалов. В 2021 году она размечала для OpenAI десятки тысяч текстовых фрагментов с описаниями сексуального насилия, жестокости и речи ненависти. По расследованию TIME, тогда кенийские работники получали примерно от $1,32 до $2 в час, один из них описал этот опыт как «пытку».
Позже стало известно о травмах сотрудников и обвинениях в подавлении профсоюзной активности в офисе Sama в Найроби. На фоне этих публикаций компания в 2023 году прекратила модерацию контента для Meta и переключилась на разметку данных для компьютерного зрения — именно такой тип работы сейчас связан с ИИ-очками.
Разметка всё чаще проходит при участии самих ИИ-систем. Для обучения своей модели компьютерного зрения SAM 3 Meta создала систему Data Engine. В ней ИИ-модели сначала предлагают варианты сегментации изображений, а затем эти предложения проверяют и исправляют люди и другие модели. Такой процесс должен значительно ускорить разметку.
В расследовании также отмечается, что кенийскими специалистами по данным пользуются и китайские компании, разрабатывающие ИИ-системы.
Источник: расследование Svenska Dagbladet и Goteborgs-Posten, материалы TIME и данные компаний Meta, Sama, NOYB и IMY.
*Meta – запрещенная в РФ организация.
