Meta опровергла заявление журналиста о том, что ИИ-агент Muse читал личные сообщения пользователя без разрешения.
Поводом стала публикация колумниста Inc. Джейсона Эйтена. После выхода материала вице-президент Meta по коммуникациям Энди Стоун заявил в X, что компания не считает, что продукт мог получить доступ к сообщениям без согласия пользователя.
По словам Стоуна, «интеграция Messages в приложении Muse для Mac включается только по желанию пользователя». Он добавил, что для чтения содержимого Messages нужно вручную активировать Full Disk Access и коннектор Messages. «Muse не может читать ваши сообщения, если вы этого не сделали», — написал он.
Позже глава Meta Superintelligence Labs Дэвид Синглтон ответил Эйтену в Threads уже с техническими деталями. По его словам, доступ Muse к сообщениям на Mac требует трёх отдельных этапов выдачи разрешений на уровне приложения и встроенной защиты macOS.
Синглтон заявил, что эти механизмы «нельзя обойти, даже если в приложении Muse была бы ошибка». Он пояснил, что пользователь должен явно выдать Full Disk Access, а затем выбрать уровень доступа Muse к приложению Messages: None, Read only или Read.
Если Full Disk Access отключён, эти параметры в интерфейсе недоступны. При его включении macOS открывает окно системных настроек, где пользователь должен ещё раз вручную подтвердить действие. После этого Muse полностью перезапускается, что, по версии Meta, делает случайное включение такого доступа маловероятным.
При этом Эйтен утверждал обратное: по его словам, Muse прочитал его сообщения, хотя Full Disk Access был выключен. Он также рассказал, что попросил ИИ объяснить произошедшее, и Muse ответил, что синхронизировал «уведомления устройства».
Из этого Эйтен сделал вывод, что Muse мог передавать агенту текст входящих баннерных уведомлений на Mac. Синглтон это тоже оспорил и заявил, что ИИ просто дал неверное объяснение произошедшему.
После этого представитель Meta сослался на страницу компании с описанием архитектуры безопасности Muse и программы bug bounty. По сути, позиция компании сводится к тому, что описанный Эйтеном сценарий не происходил и не мог произойти.
Скептицизм вокруг ответа Meta сохраняется. Это связано с прошлой историей компании в работе с пользовательскими данными, включая иски, нарушения требований Федеральной торговой комиссии США и штрафы.
Автор исходного материала также напомнил, что недавно жюри в Нью-Мексико пришло к выводу, что Meta вводила пользователей в заблуждение по поводу своих практик работы с данными. Речь шла о деле, связанном со скандалом Cambridge Analytica 2018 года.
На фоне роста потребительских ИИ-продуктов вопрос доверия к Muse может повлиять на позиции Meta на этом рынке. В материале отмечается, что сейчас приложение держится на первом месте в App Store, но новые подобные сообщения могут ударить по репутации сервиса.
Это не первый случай, когда Muse обвиняют в выходе за пределы ожидаемого поведения. Ещё один пользователь, ютубер Мэтт Робб, недавно заявил, что Muse некорректно выполнил задачу при продаже вещей через Facebook Marketplace.
По словам Робба, из-за этого был раскрыт его адрес, и покупатель пришёл к нему домой, когда его не было на месте. Судя по ответу Синглтона в Threads, компания проверяет и этот случай, что может указывать на готовность допустить ошибку хотя бы в этом эпизоде.
Источник: Inc., заявления представителей Meta в X и Threads.
*Организация Meta (владелец Facebook и Instagram) признана экстремистской организацией и ее деятельность запрещена на территории России.
