Глава Hugging Face Клем Деланг в X отреагировал на недавнее признание OpenAI о том, что одна из моделей компании взломала системы платформы Hugging Face. Он написал, что летит в Сан-Франциско, чтобы провести «небольшой разговор с этим “вышедшим из-под контроля агентом”».
В следующем сообщении, опубликованном в субботу, Деланг перечислил требования к OpenAI. Он призвал к «радикальной прозрачности» и потребовал опубликовать логи работы «вышедших из-под контроля» агентов, чтобы исследовательское сообщество могло изучить произошедшее.
Кроме того, он потребовал расширить инструменты для защиты. По словам Деланга, OpenAI должна выделить вычислительные мощности на 100 млн долларов, чтобы помочь сообществу Hugging Face создавать сильные средства киберзащиты с использованием лучших открытых и закрытых моделей.
Деланг также заявил: «Первая автономная кибератака агента — это беспрецедентное событие. Оно требует беспрецедентного ответа».
Хотя атака была автономной, эксперты по кибербезопасности допускают, что причиной могла стать и ошибка со стороны людей. Речь идет о возможной неверной настройке OpenAI тестовой среды, которая должна была быть полностью изолированной.
