Hol-PCFG сократила параметры синтаксического разбора на 99,94% и вышла в лидеры на шести языках

Исследователи опубликовали на arXiv в июле 2026 года статью о модели Hol-PCFG (Holographic Neural PCFG) — новом подходе к ненаправленному синтаксическому разбору предложений, который достигает лучших результатов на шести языках и при этом сокращает число параметров оценки грамматических правил на 99,94% по сравнению с базовыми нейронными PCFG-моделями.

Что такое ненаправленный синтаксический разбор

Синтаксический разбор — это построение дерева, которое показывает, как слова в предложении объединяются в группы: подлежащее, сказуемое, именные группы. Классический инструмент — вероятностные контекстно-свободные грамматики (PCFG). Они задают вероятности грамматических правил: например, «именная группа может состоять из артикля и существительного».

В ненаправленном (unsupervised) варианте модель не обучается на готовых размеченных деревьях — она сама выводит структуру из сырого текста. Это ценно: разметка синтаксических деревьев дорогостоящая и существует лишь для нескольких десятков языков.

Современные нейронные PCFG достигают высоких результатов, но используют непрозрачные нейросетевые блоки для оценки каждого правила. Вероятность правила — просто число, выданное «чёрным ящиком», без интерпретируемой математической формы.

Как устроена Hol-PCFG

Hol-PCFG переводит задачу оценки правил в алгебраическое моделирование отношений. Авторы берут идею из метода Holographic Embeddings (Никкель и соавторы, 2016) — он использовался для оценки троек в графах знаний, где нужно предсказать, верно ли утверждение «объект A связан с объектом B через отношение R».

В новой модели каждый нетерминал грамматики — символы вроде NP, VP, S — представлен вектором-эмбеддингом, ограниченным поверхностью тора. Вероятность правила «S → NP VP» вычисляется через круговую корреляцию векторов левого и правого дочерних символов. Это даёт каждому правилу замкнутую математическую форму, явно отражающую структуру грамматики, а не выход нейросети.

Ключевые результаты:

• Лучшие показатели ненаправленного синтаксического разбора на шести языках
• Сокращение параметров оценки правил на 99,94% относительно базовой Neural PCFG
• Более стабильное обучение: меньший разброс между запусками
• Разбор японского напрямую с символов — без морфологической сегментации
• Качество на символьном уровне сопоставимо с морфемными моделями

Почему японский без морфологии — нетривиальный результат

Японский пишется без пробелов между словами: текст идёт сплошным потоком иероглифов и каны. Традиционные парсеры сначала прогоняют текст через морфологический анализатор, разделяющий его на морфемы, и лишь затем разбирают синтаксис.

Hol-PCFG работает прямо с символов, минуя этот шаг, и при этом сохраняет качество, сопоставимое с моделями, использующими готовую морфемную разбивку. Для языков с богатой морфологией или без зрелого инструментария предобработки — а это большинство языков мира — такой подход открывает путь к более универсальным синтаксическим анализаторам.

Что это значит

Hol-PCFG — редкий пример, когда интерпретируемость не идёт в ущерб производительности: замена нейросетевых блоков на алгебраические операции над векторами сжимает модель почти в 2000 раз по числу параметров при одновременном улучшении качества. Для задач, где важны прозрачность модели, ресурсные ограничения или поддержка языков с минимальной инфраструктурой, подход может стать реальной альтернативой тяжёлым нейронным парсерам.