MSR выносит разнообразие из LLM в корпусную схему: пять задач, три шага

Команда авторов статьи предложила Mine-Sample-Render (MSR) — метод, который лечит однообразие генеративных моделей без дообучения. Идея в том, чтобы вычислять разнообразие до обращения к модели, опираясь на статистику реального корпуса. Конвейер состоит из трёх шагов и проверен на пяти задачах: от генерации прогнозов погоды до 3D-ассетов, которые создают агенты. Работа опубликована в Hugging Face Daily Papers.

Проблема: каждый ответ хорош, но все похожи

Современные модели выдают качественные одиночные результаты. Стоит запросить сотню, и выясняется, что сотня — это один и тот же сюжет с мелкими вариациями. Просьба в промпте «сделай максимально по-разному» помогает слабо: авторы прямо отмечают, что модели плохо семплируют разнообразно даже при явной инструкции.

Для одного пользователя это неудобство. Для тех, кто собирает синтетические датасеты, тестирует агентов на симулированных пользователях или генерирует варианты интерфейсов, это системная проблема. Если распределение на выходе уже, чем в реальном мире, на нём нельзя ни обучать, ни проверять.

MSR подходит к задаче с другой стороны. Он не уговаривает модель быть разнообразной, а забирает у неё эту функцию.

Как устроен Mine-Sample-Render

Название описывает три этапа по порядку.

• Mine. Из корпуса реальных артефактов извлекается интерпретируемая категориальная схема: набор атрибутов и их возможных значений. Заодно собирается статистика для семплирования, то есть как часто эти значения встречаются на практике.
• Sample. Из полученных статистик семплируются конфигурации атрибутов. Это обычная выборка из распределения, без участия нейросети.
• Render. Генеративная модель получает готовую конфигурацию и работает как условный рендерер: превращает набор атрибутов в текст, страницу, картинку или 3D-объект.

Разделение ролей здесь главное. Решение «что сгенерировать» принимает прозрачная и проверяемая процедура. Модель решает только «как это выглядит». Если, например, в корпусе погодных сводок дожди встречаются в определённой доле случаев, конфигурации будут воспроизводить эту долю, а не любимые модели сюжеты вроде «солнечно с лёгкой облачностью».

Что проверяли и что получилось

Авторы тестировали MSR на пяти разных задачах:

• генерация прогнозов погоды;
• симуляция пользователей;
• дизайн веб-страниц;
• text-to-image;
• 3D-ассеты, созданные агентами.

Заявленный итог: MSR улучшает соответствие распределению корпуса и повышает разнообразие результатов, при этом оценивалось и качество выходов. В доступном описании работы конкретных цифр прироста нет, поэтому величину эффекта придётся смотреть в полном тексте статьи и таблицах.

Стоит учитывать и ограничения, которые следуют из самой конструкции. Разнообразие метода не выйдет за пределы схемы: если корпус смещён или схема упустила важный атрибут, смещение переедет в генерацию. Категориальные атрибуты хорошо описывают структуру погодной сводки или лендинга, но с тонкими стилистическими нюансами могут справляться хуже. Кроме того, рендерер должен аккуратно следовать условию. Если модель игнорирует часть атрибутов, выигрыш от семплирования теряется.

Где применять уже сейчас

Главное практическое свойство MSR — работа на этапе инференса. Веса не меняются, а модель можно брать закрытую и доступную только по API. Это удобно для команд, которые не могут или не хотят дообучать.

Вот где подход выглядит применимым:

• Синтетические данные. Вместо генерации «по одному промпту» сначала вывести схему атрибутов из собственного корпуса, затем семплировать конфигурации и отдавать их модели.
• Тестирование агентов. Симулированные пользователи с реалистичным разбросом профилей и намерений помогают находить сбои, которые не видны на однотипных сценариях.
• Дизайн и контент. Для генерации вариантов страниц или изображений схема задаёт управляемые оси различий, а статистика не даёт всем вариантам сползти к среднему.

Начинать разумно с малого: выделить 5–10 атрибутов, посчитать их частоты на реальных примерах и сравнить распределение выходов с корпусом до и после. Если расхождение сокращается, схему можно расширять. Если нет, проблема, скорее всего, в рендерере или в качестве самой схемы, и это видно сразу, потому что каждый шаг конвейера можно проверить отдельно.