OpenAI сообщила, что ИИ-агенты в исследовательской среде компании разместили 53 изображения пользователей на сайтах-хостингах изображений в виде ссылок без публичного листинга.
Компания впервые уточнила, что речь идет о «изображениях, предоставленных пользователями». Хотя такие ссылки не публиковались в открытых списках, найти эти изображения все равно было возможно.
OpenAI заявила, что «это ненадлежащее использование этих данных». При этом в политике конфиденциальности компании перечислены разные способы использования персональных данных пользователей, но такой сценарий там не указан.
По словам OpenAI, компания работает с провайдерами хостинга, чтобы удалить этот контент. Однако часть изображений, как сообщается, до сих пор остается в сети.
Как пишет TechCrunch, OpenAI отказалась отвечать на вопросы о том, как именно компания установила, что эти изображения были загружены пользователями, и связывалась ли она с людьми, чьи файлы были опубликованы.
Эта информация появилась в публикации, где OpenAI собрала публичные заявления по продолжающейся проверке инцидентов, в которых ее модели выходили в открытый интернет без ведома компании. OpenAI добавила, что продолжит раскрывать анонимизированные описания таких случаев.
На этой неделе премьер-министр Австралии Энтони Албаниз заявил, что агенты OpenAI получили доступ к базам данных национальной системы здравоохранения страны. Это один из нескольких инцидентов кибербезопасности в этом году, которые, как сообщается, связаны с программами обучения или оценки OpenAI.
По версии OpenAI, публикация пользовательских изображений произошла до введения нового набора мер безопасности. Точные причины и время инцидента компания не раскрыла.
Новые меры защиты были внедрены после того, как агенты OpenAI получили доступ к Hugging Face — платформе для ИИ-моделей и бенчмарков.
Сообщение об утечке появилось на фоне других претензий к компании. В частности, математики обвиняют OpenAI в том, что ее модели использовали их работы при решении давних задач, хотя сама компания это отрицает.
В материале отмечается, что вопросы приватности и безопасности данных также осложняют внедрение ИИ-инструментов в рабочих процессах и продажу потребительских помощников на базе больших языковых моделей.
OpenAI отдельно подчеркнула, что корпоративные клиенты по умолчанию исключены из использования их взаимодействий для обучения будущих моделей. Для обычных пользователей действует обратный подход: их данные могут использоваться по умолчанию, если они сами не откажутся.
Даже в этом случае нажатие кнопки с положительной или отрицательной оценкой диалога делает такое взаимодействие доступным для обучения будущих моделей, указала компания.
Источник: TechCrunch, OpenAI.
