Пользователи обнаружили, что чаты Claude и Artifacts можно было найти через Google по запросам вроде site:claude.ai/share. По данным TechCrunch, в выдаче появлялись публичные ссылки на переписки и проекты, а часть материалов содержала медицинские записи, внутренние документы компаний, а также имена и номера телефонов детей.
Проблема, судя по всему, была связана с функцией Share chat, которая создаёт ссылку для просмотра беседы или проекта. В интерфейсе Claude указано: «Anyone with the link can view». Формулировка предполагает обмен ссылкой с друзьями, коллегами или небольшой группой, а не публикацию для всех пользователей интернета.
Anthropic заявила TechCrunch, что ссылки попадают в поиск только после публичного размещения — например, на форуме или в соцсетях. По словам компании, если ссылку отправить частным образом, она не будет индексироваться поисковиками.
Представитель компании Эми Ротерем пояснила: «Мы даём пользователям контроль над публичным доступом к их беседам в Claude». Она добавила, что Anthropic не передаёт поисковым системам каталоги чатов или карты сайта, а сами ссылки нельзя угадать или найти, если пользователь сам ими не поделился. «Когда человек делится беседой, он делает этот контент общедоступным, и, как и другой публичный контент в сети, он может архивироваться сторонними сервисами», — сказала она.
О проблеме первым сообщил пользователь Reddit в субботу, а в понедельник утром об этом написало 404 Media. К понедельнику днём проверка TechCrunch по той же схеме уже не показывала результатов в Google, что может говорить об устранении проблемы.
До исправления ситуации издание Futurism сообщало, что нашло подробный медицинский отчёт реального пациента, результаты клинических испытаний с именами пациентов, документы с именами и телефонами детей младшего школьного возраста, внутренние корпоративные материалы и отзывы о сотрудниках с персональными данными.
В открытом доступе также были Artifacts с кодом, рабочими заметками и эротическими текстами, созданными чат-ботом. Fortune сообщило как минимум об одном случае, где чат с пометкой «shared by Anthropic» показывал, как Claude генерирует откровенный контент, хотя политика компании это запрещает.
Правила использования Anthropic прямо запрещают Claude создавать сексуально откровенные материалы. При этом обход ограничений через повторные или нестандартно сформулированные запросы уже наблюдался у многих крупных ИИ-моделей. Как именно появился этот конкретный контент, пока неясно. На отдельный запрос TechCrunch по этому эпизоду Anthropic не ответила.
Представитель Google Нед Адрианс заявил TechCrunch: «Ни Google, ни любая другая поисковая система не определяют, какие страницы становятся публичными в интернете». Он добавил, что эти страницы индексировались разными поисковыми системами, а владельцам сайтов доступны понятные инструменты для управления сканированием и индексированием, и Google соблюдает такие настройки.
Это не первый подобный случай. В прошлом году Forbes писал, что поисковые системы проиндексировали сотни чатов Claude. Тогда Google оценивала объём почти в 600 бесед до их исчезновения из результатов поиска. Насколько текущий инцидент сопоставим по масштабу, независимо подтвердить пока не удалось, хотя несколько пользователей сообщили, что нашли общие чаты тем же способом. Также в прошлом году 404 Media писало, что исследователь смог собрать около 100 тысяч разговоров ChatGPT, которые были открыты для публичного доступа.
Проверить, какие чаты Claude были опубликованы по ссылке, можно в разделе Settings → Privacy → Shared Chats.
Источник: TechCrunch, 404 Media, Futurism, Fortune, Forbes.
