InductWave обучает модели графов знаний вдвое меньшим числом слоёв, чем конкуренты

Команда исследователей представила InductWave — метод индуктивного эмбеддинга на основе вейвлетов для ответов на многошаговые логические запросы к графам знаний, который работает вдвое меньшим числом слоёв передачи сообщений, чем базовые модели. Статья опубликована в arXiv 7 июля 2026 года.

В чём проблема транзиктивных моделей

Многошаговые логические запросы к графам знаний (Multi-Hop Query Answering) формулируются как запросы с неявным допущением полноты данных и обычно содержат операторы конъюнкции, дизъюнкции и отрицания (Existential First Order Logic). Большинство существующих моделей используют транзиктивное обучение (transductive reasoning) — то есть не умеют рассуждать о сущностях, которых не видели во время обучения. В реальном мире это серьёзное ограничение: обучить модель сразу на всех узлах крупного графа знаний часто невозможно из-за нехватки ресурсов.

Как устроен InductWave

InductWave — индуктивный метод: граф, на котором модель обучается, содержит меньше узлов, чем граф, на котором её тестируют.

• Метод основан на вейвлет-эмбеддингах
• При половинном числе слоёв передачи сообщений (message-passing layers) InductWave показывает результаты на уровне базовых моделей
• При 75% от числа слоёв базовых моделей InductWave превосходит их в большинстве случаев
• Более скромные требования к ресурсам позволили протестировать модель на массивных графах, включая Wiki-KG
• Эксперименты проводились на разных пропорциях обучающего и тестового графов датасета FB15k-237

Код и датасеты модели выложены в открытый доступ на GitHub.

Что это значит

Меньшее число слоёв передачи сообщений напрямую снижает вычислительные затраты на обучение и инференс — а значит, индуктивные методы вроде InductWave делают работу с по-настоящему большими графами знаний, такими как Wiki-KG, практически осуществимой без огромных вычислительных кластеров.

Частые вопросы

Что такое индуктивное обучение на графах знаний?

Это подход, при котором модель обучается на графе с меньшим числом узлов, чем тот, на котором её затем тестируют, и должна уметь рассуждать о сущностях, которые не видела во время обучения — в отличие от транзиктивных моделей.

На каких датасетах тестировали InductWave?

Модель проверяли на разных пропорциях обучающего и тестового графов датасета FB15k-237, а также на крупном графе знаний Wiki-KG, где меньшие требования к ресурсам оказались особенно важны.