Wasserstein BaryBooster превращает реализм диффузии в точность прогноза событий

Прогнозировать, что произойдёт с клиентом банка, пациентом или заказом в ближайшие несколько шагов, умеют многие модели. Проверить, что их прогнозы похожи на реальную жизнь, а не только попадают в среднее, почти никто не пытался. Авторы новой работы с Hugging Face Daily Papers закрыли этот пробел: они собрали бенчмарк для многошагового прогнозирования последовательностей событий и показали, что точность и реалистичность распределения тянут модели в разные стороны. Затем предложили алгоритм Wasserstein BaryBooster, который частично примиряет обе цели.

Почему последовательность событий — отдельный зверь

Событийная последовательность — это цепочка случайных событий, и каждое описывается набором разнородных признаков: числовых (сумма платежа, время между событиями) и категориальных (тип операции, диагноз, статус заказа). Такие данные встречаются в финансах, здравоохранении, анализе бизнес-процессов и других областях. Классические методы прогнозирования временных рядов с ними справляются плохо: нужно предсказывать не одно число, а целую траекторию из смешанных типов.

Авторы формулируют задачу как условное генеративное моделирование. Модель получает историю и должна породить правдоподобное продолжение на несколько шагов вперёд. Такая постановка меняет и критерии оценки: мало, чтобы прогноз оказался близок к факту, нужно ещё, чтобы множество сгенерированных траекторий выглядело как настоящие данные.

Бенчмарк, в котором проигрывают все

В состав бенчмарка вошли:

• метрики для двух аспектов качества: точности прогноза и реалистичности распределения;
• сильные статистические базлайны;
• недавние модели, адаптированные из смежных областей;
• отобранные реальные датасеты.

После аккуратной оценки получилась неудобная картина: ни один метод не показывает лучший результат одновременно по обоим направлениям. Модели, чьи траектории выглядят максимально натурально, проигрывают в точности. Модели, стабильно попадающие близко к факту, выдают слишком «сглаженные» последовательности, не похожие на реальные. Авторы называют это фундаментальным компромиссом.

Причина понятна интуитивно. Чтобы минимизировать ошибку, выгодно предсказывать нечто среднее. Но среднее по случайным событиям редко совпадает с тем, что реально встречается в данных. Генеративная модель, наоборот, честно воспроизводит разброс, и каждая отдельная траектория при этом может промахнуться.

BaryBooster: берём реализм у диффузии, точность получаем агрегацией

На этом фоне авторы вводят Wasserstein BaryBooster. Идея: взять диффузионную модель с сильным показателем реалистичности, сгенерировать из неё набор сэмплов и агрегировать их в единый прогноз. Название отсылает к барицентру Вассерштейна, способу усреднять распределения в геометрии оптимального транспорта. Агрегация учитывает форму распределения, а не просто берёт арифметическое среднее.

По заявлению авторов, получившийся предсказатель выходит на уровень state-of-the-art по точности. Это показывает: реализм распределения можно конвертировать в точность, если правильно собрать выборку в итоговый ответ. Компромисс остаётся, но появляется рабочий способ извлечь выгоду из генеративной части.

Что делать практикам

Код бенчмарка и алгоритма опубликован на GitHub в репозитории xaosina/event-sequence-forecasting. Командам, которые прогнозируют транзакции, клиентские пути, клинические события или шаги бизнес-процессов, имеет смысл прогнать свои модели через предложенные метрики. Если оценка идёт только по ошибке прогноза, есть риск получить модель, которая тихо выдаёт нереалистичные траектории. Для симуляций, стресс-тестов и синтетических данных это критично.

Второй практический вывод касается архитектуры. Диффузионная модель как генератор сэмплов плюс отдельный слой агрегации даёт возможность настраивать баланс между реализмом и точностью под задачу. Для скоринга важнее точность, для генерации сценариев и симуляций — реализм. Бенчмарк впервые позволяет измерять оба параметра на одних и тех же данных.