PathFM: генерация полных траекторий временных рядов через flow matching

Фундаментальные модели временных рядов становятся стандартом для универсального прогнозирования, но они оставляют за скобками критическую информацию о структуре зависимостей в будущих траекториях. Большинство ведущих решений — вроде TimesFM-3 — предсказывают маргинальные квантили каждой переменной отдельно, не учитывая их совместное поведение и временные корреляции. Это создаёт проблему для прикладных задач, где нужна полная картина развития: прогноз совокупного спроса, пиковой нагрузки на сеть или моментов наступления событий.

Исследователи Autogluon предложили альтернативный подход — PathFM, модель генеративного прогнозирования, которая создаёт полные многомерные траектории. Вместо того чтобы выводить отдельные точки или квантили, модель использует flow matching для генерации реалистичных путей развития ряда со всеми присущими им зависимостями и вариативностью.

Архитектура и оптимизация

PathFM опирается на flow matching — метод, который превращает простое распределение в сложное через обратимый процесс. Ключевая инновация заключается в дистилляции: исследователи сжали модель до одного-двух этапов вычислений и реализовали кэширование истории внимания (history attention cache) для повторного использования при генерации нескольких путей. Это позволило достичь скорости, сравнимой с одним запросом к квантильной модели, но для создания десятков независимых траекторий.

Модель также оптимизирована напрямую через calibration loss — функцию потерь, направленную на калибровку неопределённости, что недоступно для моделей, работающих с отдельными квантилями.

Результаты на бенчмарках

PathFM оценивалась на стандартных бенчмарках fev-bench и TIME. На fev-bench модель достигла конкурентной точности маргинальных прогнозов, заняв третье место. Однако главные достижения проявляются на новом бенчмарке Forecast Path Score Bench (fps-bench), который исследователи разработали специально для оценки качества траекторий.

fps-bench расширяет задачи fev-bench дополнительными метриками: energy score (энергетическая оценка) и variogram score (вариограмма), которые измеряют, насколько хорошо модель воспроизводит совместное распределение и пространственную вариативность. По агрегированному path score PathFM обогнала все протестированные решения, включая TimesFM-3, на 10,6%.

Скорость и практичность

На GPU NVIDIA L4 PathFM генерирует 32 полных пути за 51,6 миллисекунды. Это делает ансамблевые методы практичными: раньше генеративные подходы требовали либо дорогостоящих вычислений, либо компромиссов с качеством.

Поведение на хаотических системах

Специальный тест на хаотических системах показал, что подход через flow matching обладает уникальным свойством: модель поддерживает долгосрочную вариативность в 20 и более раз дольше, чем baseline-методы, при этом достигая наименьшей средней точечной ошибки прогноза. Другие сильные модели быстро теряют случайность и сводят прогнозы к усреднённым значениям.

PathFM открывает новый класс приложений: от управления цепочками поставок с учётом конечного распределения спроса до систем управления нагрузкой в энергетике, где нужно предусмотреть не только среднее, но и весь спектр возможных сценариев. Авторы Jiachen Yao, Xiyuan Zhang, Annan Yu, Boran Han, Abdul Fatir Ansari, Shuai Zhang, Michael Bohlke-Schneider и Bernie Wang обещают выпустить веса модели и исходный код в ближайшее время.