Новое исследование показало, что для качественной оценки ИИ-моделей трёх-пяти оценок на один пример часто недостаточно. Авторы работы также пришли к выводу, что на итог влияет не только общий бюджет разметки, но и то, как он распределён между числом примеров и числом оценщиков.
В исследованиях ИИ человеческие оценки часто определяют, какая модель показывает лучший результат. Люди, например, отмечают, является ли комментарий токсичным или безопасен ли ответ чат-бота.
Проблема в том, что оценщики нередко расходятся во мнениях. Обычная практика — собрать по каждому примеру три-пять оценок и выбрать один «правильный» ответ по большинству. По словам авторов, такой подход систематически отбрасывает разнообразие человеческих мнений.
Исследователи из Google Research и Rochester Institute of Technology изучили, как разумнее расходовать ограниченный бюджет на оценки. Их основной вопрос был простым: что лучше — проверить как можно больше тестовых примеров или взять меньше примеров, но получить по каждому заметно больше оценок.
Авторы объясняют это на примере с рестораном. Можно попросить 1000 гостей попробовать по одному блюду и получить широкий, но поверхностный срез. Или можно попросить 20 человек оценить одни и те же 50 блюд. Тогда картина будет гораздо глубже и точнее.
Чтобы найти оптимальный баланс, команда создала симулятор, который воспроизводит поведение оценщиков на основе реальных датасетов. Он генерирует синтетические данные для сравнения двух моделей, где одна заранее задана как более слабая. Это позволило проверить, при каких условиях разницу между моделями можно выявлять стабильно.
Симулятор настроили по пяти реальным наборам данных, которые охватывали определение токсичности, безопасность чат-ботов и межкультурную оценку оскорбительности. В сумме исследователи проверили тысячи комбинаций с разными бюджетами и разным числом оценщиков на пример.
Результаты ставят под вопрос текущую практику. Согласно исследованию, типичные один-пять оценщиков на пример часто не позволяют получать воспроизводимые сравнения моделей. Для статистически устойчивых результатов, которые отражают разброс человеческих мнений, обычно требуется больше десяти оценщиков на пример.
Эксперименты также показали, что устойчивого результата во многих случаях можно добиться примерно при 1000 аннотаций, но только если правильно распределить этот бюджет между числом примеров и числом оценщиков. При неудачном распределении выводы могут оказаться ненадёжными даже при заметно большем объёме разметки.
Главный вывод авторов в том, что универсального соотношения нет. Подход зависит от того, какую именно метрику нужно измерить.
- Если используется метрика точности и проверяется, совпадает ли ответ модели с мнением большинства оценщиков, лучше брать как можно больше примеров и назначать на каждый лишь несколько оценок.
- Если задача — зафиксировать полный разброс человеческих ответов, например через метрику total variation, нужен другой подход: меньше примеров, но заметно больше оценщиков на каждый.
Авторы отмечают, что два примера могут получить одинаковую метку по большинству голосов, но при этом иметь совершенно разное распределение ответов. В их экспериментах метрика, которая учитывает такое распределение, требовала и наименьший общий бюджет для получения устойчивого результата.
Источник: The Decoder.
