NVIDIA Kumo Relational обходит supervised ML на 41 задаче без обучения

NVIDIA опубликовала Kumo Relational, предобученную реляционную foundation-модель, которая делает предсказания прямо поверх корпоративной базы данных. Пользователь описывает, что предсказать, и получает результат за один прямой проход, без обучения под задачу, без ручных агрегатов и без сплющивания таблиц. На 41 задаче из 15 баз модель обошла supervised-модели и градиентный бустинг на экспертных признаках. На SAP SALT она на 8% опережает большие ансамбли AutoGluon по mean reciprocal rank. Среди авторов Jure Leskovec и Matthias Fey, а работа вышла вместе с командой Kumo.

Предсказание как запрос, а не проект

Обычный путь для задачи вроде оттока клиентов занимает недели. Инженеры считают «средний чек за 30 дней», склеивают users, orders и products в одну строку, настраивают XGBoost и поддерживают пайплайн. Kumo Relational работает иначе: он читает таблицы, внешние ключи и временные метки как есть. Задача формулируется на Predictive Query Language, например `PREDICT COUNT(orders.*, 0, 30, days) FOR EACH users.user_id`.

Система сама собирает контекст. Она берёт исторические примеры, вырезает вокруг каждой сущности локальный подграф на момент времени и подклеивает известный исход вроде «пользователь ушёл» или «товар продался 142 раза». Для временных задач база проигрывается по историческим состояниям: модель видит только данные до якорной метки, а цель считается по событиям после неё. Утечка данных из будущего исключена на уровне конструкции.

Архитектура двухступенчатая. Лёгкая сеть обрабатывает каждую таблицу отдельно через column attention и row attention и отсеивает шум. Затем более крупная сеть распространяет эмбеддинги строк по структуре базы через graph attention по связям первичных и внешних ключей, после чего идёт cross-sample attention между контекстными примерами. Поскольку второй этап оперирует эмбеддингами строк, а не каждой ячейкой, квадратичной стоимости нет, и контексты с глубокими подграфами остаются подъёмными.

Синтетика вместо закрытых баз

Разнообразных реляционных баз для предобучения в открытом доступе почти нет, поэтому модель обучена полностью на синтетике. Генератор опирается на PluRel (Kothapalli et al., ICML 2026) и строит базу в три шага: схема, связи между строками с реалистичной кластеризацией и значения колонок из структурных причинных моделей с временными трендами и межтабличными зависимостями. Генерация дешёвая, так что данных для предобучения практически неограниченное количество. Loss падает по степенному закону по мере добавления баз, и выигрыш переносится на реальные данные. Обучение идёт по ступеням: от одиночных таблиц к сложным реляционным структурам.

Оценка шла на датасетах, которых модель не видела: RelBench V1 и V2, SAP SALT и 4DBInfer. Они охватывают e-commerce, медицину, enterprise, соцсети и академические данные.

• 41 задача на 15 реляционных базах.
• RelBench V1, классификация: примерно на 4 пункта AUROC выше градиентного бустинга на экспертных признаках.
• SAP SALT: на 7 пунктов MRR выше XGBoost на инженерных признаках из коробки и на 13 пунктов после дообучения.
• SAP SALT против больших ансамблей AutoGluon: плюс 8% MRR, после файнтьюна плюс 16%.
• RelArena-α (лидерборд на 21.09.2026): модель на Парето-фронте точности и скорости, примерно в 430 раз быстрее rtl-plurel при сопоставимой точности.
• Устойчивость: работает при 0,2% обучающих данных в контексте, держится при удалении до 75% связей по внешним ключам и почти не деградирует при добавлении шумовых колонок.
• Масштаб: kumo-engine обрабатывает базы свыше 500 млрд строк через memory-mapped I/O на скорости до 5 ГБ/с.

Ограничения авторы называют сами. Лучше всего модель работает там, где есть содержательные связи и временная динамика, например в поведении пользователей. На задачах с очень большими обучающими выборками специализированные supervised-модели могут выигрывать. Предиктивный сигнал должен находиться в пределах ограниченного числа переходов по связям.

Как это запустить и где сэкономить

Главная экономия здесь в инженерных часах, а не в токенах. Вместо отдельного пайплайна на каждую задачу есть одна модель и набор запросов. Новый прогноз превращается в строчку PQL, и команды могут браться за сценарии, которые раньше не окупали разработку. Для агентов PQL служит простым интерфейсом: LLM читает и рассуждает, а Kumo Relational даёт прогноз, например какой клиент уйдёт.

Запуск возможен тремя путями. Первый: открытая GPU-нативная библиотека structured-data-models (`pip install structured-data-models`), где `sdm.models.KumoRelational(device="cuda")` принимает контекстные таблицы, таблицы запроса и связанные таблицы. Веса подтягиваются с Hugging Face Hub при первом использовании. Второй: развёртывание как NVIDIA NIM с клиентом structured-data-models-client, где PQL-запрос и pandas DataFrame превращаются в контекст автоматически. В репозитории есть ноутбуки для локального NIM и для Databricks. Третий: kumo-engine с коннекторами к базам и хранилищам для больших объёмов.

Код выложен под Apache 2.0, веса под OpenMDW License Agreement 1.1. Практический тест выглядит просто: возьмите продакшн-задачу на XGBoost, например отток или спрос, прогоните её на Kumo Relational и сравните метрики и время разработки. Если сигнал в данных лежит на пару переходов по ключам, то заменить пайплайн, скорее всего, получится.