Лаборатории ИИ во многом строят свою репутацию на бенчмарках моделей — системе оценок, которая должна показывать, какой продукт лучше другого. Однако методы таких проверок остаются сложными и пока неустоявшимися, заявила директор по политике Hugging Face Ирен Солейман на TechCrunch Disrupt.
По её словам, если индустрия хочет и дальше опираться на такие тесты, оценки нужно превратить в более единый и воспроизводимый научный процесс.
Солейман отдельно подчеркнула, что вопрос доверия к результатам напрямую связан с возможностью их повторить. «Доверие — очень нагруженный термин. Если говорить о том, можно ли доверять результатам, то важный вопрос в том, можно ли воспроизвести итоги оценки. Есть ли у вас тот уровень доступа к самой модели, который нужен? Здесь большую роль играют открытые веса», — сказала она.
Воспроизводимость оценок моделей давно остаётся одним из самых спорных вопросов в бенчмаркинге. Ещё одна проблема — как сопоставлять разные тесты между собой.
«Это всё ещё развивающаяся наука, и мы пока не знаем, как содержательно сравнивать такие оценки друг с другом», — отметила Солейман.
По её словам, многие проверки довольно быстро теряют пользу, а самой экосистеме оценивания пока не хватает зрелости. «Есть большой спрос на встроенную экосистему оценщиков, но критерии, по которым можно понять, кто действительно способен оценивать те или иные задачи, требуют куда большей стандартизации», — добавила она.
Идея встроенных оценщиков предполагает, что внешние и формально нейтральные наблюдатели работают внутри ИИ-компаний. За последние месяцы этот подход стал популярнее на фоне серии инцидентов, связанных с безопасностью ИИ, которые усилили опасения по поводу возможного вреда таких технологий. Hugging Face, как отмечает материал, также была связана с одним из таких инцидентов.
Вместо активного государственного регулирования, которое могло бы выявлять и снижать риски безопасности моделей, лаборатории продвигают вариант с внешними оценщиками. Но сомнения в их нейтральности и эффективности сохраняются. В пример приводится решение Anthropic нанять Accenture в качестве первого оценщика: оно вызвало заметную критику, а часть комментаторов усомнилась, что консалтинговая компания подходит для такой задачи.
Сейчас оценки смещаются от проверки самой модели к проверке всей системы вокруг неё, включая harness и агента. Под harness имеется в виду инструмент, через который пользователь получает доступ к модели. По словам Солейман, именно он сильно влияет на результат, и более слабая модель с лучшим интерфейсом или обвязкой может обойти передовую модель.
«Оценки агентных систем очень трудны и очень дороги. У нас просто больше тестов для моделей. У нас не так много оценок для harness, и мы создаём более качественные проверки для целостного агента, потому что именно из этого многие и получают ценность», — сказала Солейман.
В итоге рынок оценок ИИ пока остаётся разрозненным. Если бенчмарки и дальше будут использоваться как важный инструмент для участников рынка, индустрии, вероятно, понадобится более единый подход к таким проверкам.
Источник: TechCrunch.
