Пробам активаций для Gemma-3-27B хватает 80 синтетических диалогов, но не везде

Сколько синтетических диалогов нужно, чтобы обучить пробу, которая следит за поведением языковой модели в продакшене? Авторы свежей работы на arXiv cs.LG измерили это напрямую и получили ответ, зависящий от того, что именно проба отслеживает. На Gemma-3-27B-IT пробы для «ситуаций с высокими ставками» и для ответов, вредных для человека, оказываются в пределах нескольких сотых от своего плато уже на 80 примерах. Пробам, которые ловят невыполнение инструкции пользователя, требуется в несколько раз больше.

Как поставлен эксперимент

Активационная проба — небольшой классификатор поверх внутренних представлений модели. Обучают её обычно на сгенерированных другой LLM разговорах, и до сих пор бюджет на такую генерацию задавали на глаз. Исследователи построили кривые обучения на диапазоне от 10 до 590 синтетических образцов для трёх концептов: высокие ставки, вредный для человека ответ и ответ, не следующий инструкции. Качество мерили на 14 отложенных распределениях. Отдельно варьировали модель-генератор и степень детализации промпта.

Ключевые параметры работы:

• три концепта мониторинга: high-stakes, harmful, instruction;
• четыре модели-пробы, основная — Gemma-3-27B-IT;
• 14 отложенных оценочных распределений;
• от 10 до 590 синтетических образцов на кривой;
• порядок концептов по «прожорливости» сохраняется на трёх меньших моделях и на реальных образцах из dev-набора.

Покрытие вместо сложности

Для сравнения кривых авторы ввели величину half-gain size: число образцов, при котором набрана половина итогового прироста качества. Концепт и распределение вместе объясняют 42–45% её дисперсии. Генератор, проба-модель и детальность промпта дают меньше 10% на всё вместе. Выбор более дорогой модели для генерации или более подробного промпта, по этим данным, влияет на потребность в данных куда слабее, чем сам предмет мониторинга.

Интуитивное объяснение — одни концепты просто сложнее — авторы отвергают. Если брать каждый «вид» данных отдельно (по одному на оценочное распределение), то медианный half-gain size составляет 7–11 собственных синтетических образцов, причём для всех трёх концептов одинаково. Сложность внутри одного вида везде сопоставима. Различается другое: насколько образцы одного вида помогают на остальных видах того же концепта. Почти полностью переносятся они у high-stakes, хуже у harmful и слабее всего у instruction. Этим перекосом авторы объясняют большую часть разрыва между концептами и на сгенерированных, и на реальных данных.

Отсюда следует вывод о споре «широта или глубина». Прежняя рекомендация тратить бюджет генерации на разнообразие видов данных, а не на объём каждого вида, верна неравномерно. Для instruction много видов необходимы: ни один вид не покрывает другой. Для high-stakes они почти избыточны, поскольку один вид покрывает остальные.

Что делать с бюджетом на генерацию

Команде, которая строит мониторинг деплоя, полезно начать с проверки переноса между видами данных, а не с подбора генератора. Если концепт похож на high-stakes, достаточно нескольких десятков хорошо подобранных примеров, и дальнейшие траты дают мало. Если он похож на instruction, разнообразие видов нужно закладывать с самого начала, а объём считать в сотнях. Дорогая модель-генератор и сверхдетальный промпт сэкономят меньше, чем кажется: их вклад в дисперсию потребности в данных ниже 10%.

Оговорка: все выводы получены на трёх концептах и четырёх пробах. Для других концептов потребность придётся измерять заново, и проверка переноса между видами для этого выглядит рабочим инструментом. Авторы выложили оценочные наборы, dev-наборы и сгенерированные данные, так что воспроизвести кривые на своём стеке можно без собственной разметки.