FlexOlmo, разработанный Институтом искусственного интеллекта Аллена, позволяет организациям совместно обучать языковые модели на локальных данных без передачи чувствительной информации.
Во многих отраслях компании не могут делиться ценными данными для обучения ИИ из-за ограничений безопасности. FlexOlmo предлагает другой подход: организации обучают свои модели-эксперты на собственных закрытых датасетах и обмениваются только весами моделей, а не исходными данными.
Для согласованной работы независимых экспертов используется замороженная публичная модель в виде опорного эксперта. Она не меняется при обучении, а новые эксперты адаптируются к ней на локальных данных. Такой подход позволяет комбинировать экспертов без дополнительного обучения.
FlexOlmo подходит, когда доступ к данным должен быть жестко ограничен. Источники данных можно включать или отключать в зависимости от задачи. Например, токсичный контент разрешён для исследований, но исключён для обычного применения.
Исследователи показали это, отключив эксперта по новостям во время теста. Как и ожидалось, результаты по новостным задачам снизились, но в других областях остались стабильными.
Даже если лицензии на данные истекают или меняются права использования, источники можно отключить без полного переобучения. Итоговая модель содержит 37 миллиардов параметров, из них 20 миллиардов активны.
Команда оценила FlexOlmo на смеси открытых данных и семи специализированных наборов: новости, креативное письмо, код, научные статьи, учебные тексты, математика и Reddit.
При проверке на 31 задаче FlexOlmo в среднем показал прирост 41% по сравнению с моделями только на открытых данных. В стандартных тестах FlexOlmo обошёл гипотетическую модель, обученную на всех данных с такими же ресурсами. Лишь модель, использующая двойные вычисления, дала чуть лучший результат.
Так как владельцы данных делятся только весами моделей, риск утечки минимален. В тестах попытки восстановить обучающие данные из модели удавались в 0,7% случаев. Для особо чувствительных данных FlexOlmo поддерживает дифференциальную приватность, которую каждый участник может включать индивидуально. Также представлен OLMoTrace — инструмент отслеживания источников обучающих данных в ответах языковых моделей.
