Baseten объявила о запуске нового стандарта инфраструктуры безопасности для моделей с открытыми весами. Проект компания представила вместе со своим исследовательским подразделением Base Labs, а партнёрами выступили Hugging Face и Goodfire AI.
Инициатива появилась на фоне споров о безопасности open-weight-моделей. Риск связан с растущим распространением метода abliteration, который позволяет убирать встроенные защитные механизмы и делать такие модели опаснее. Hugging Face сейчас насчитывает более 6 000 abliterated-моделей на своей платформе.
Base Labs, исследовательская группа, которую Baseten запустила в этом году, будет разрабатывать и публиковать методы обучения и мониторинга открытых моделей. Компания описывает будущую работу как стандарт для открытых моделей, который должен быть прозрачным и встроенным в процессы обучения и развертывания, а не добавляться после выпуска.
«Мы считаем открытость преимуществом для безопасности ИИ», — заявила компания в X. «Открытость даёт больше видимости в поведение моделей и, что особенно важно, больше возможностей превращать исследования безопасности в практические и прозрачные меры контроля по сравнению с закрытым исходным кодом».
Компании пока не раскрыли, как именно будет устроено техническое сотрудничество. При этом Goodfire сформулировала цель партнёрства в ответе на публикацию Baseten так: «Безопасность должна быть встроена в открытые модели и обеспечиваться теми, кто их предоставляет».
Goodfire специализируется на объяснении того, как модели принимают решения, и занимается интерпретируемостью ИИ. На этом фоне компания выглядит вероятным участником той части проекта, которая связана со встроенными механизмами безопасности.
Baseten, поставщик инфраструктуры для AI-inference, в июне привлекла $1,5 млрд в раунде Series F, после чего её оценка достигла $13 млрд. Goodfire AI тоже активно финансируется: ранее в этом году компания привлекла $150 млн в раунде Series B под руководством B Capital для развития своей платформы интерпретируемости моделей.
Далее Baseten планирует подключить к работе более широкий круг разработчиков и открыла приём предложений от экосистемы. «Вместе мы строим экосистему открытых моделей, которые безопасны и доступны для всех», — отметила компания.
Источник: Baseten, Hugging Face, Goodfire AI.
