Разработчик заменил повторное объяснение контекста нейросети воркфлоу LLM Wiki

Автор технического блога на Habr показал воркфлоу LLM Wiki: вместо того чтобы при каждом запросе заново объяснять нейросети контекст, модель постепенно пополняет и упорядочивает базу знаний в хранилище Obsidian. В качестве источников для наполнения использовались несколько статей с самого Хабра, а обработка задач построена на Codex.

Из чего собран воркфлоу

Система опирается на связку из нескольких инструментов и трёх последовательных процессов, которые автор реализовал самостоятельно поверх готового vault в Obsidian.

• Хранилище знаний — vault в Obsidian
• Обработка запросов и генерация — через Codex
• Источники для наполнения базы — несколько статей с Хабра
• Три процесса конвейера: ingest (загрузка материалов), query (запрос к базе), lint (проверка качества)
• Стоимость ingest автор считал на модели Yandex Foundation Models

Построение воркфлоу вокруг именно трёх отдельных процессов — ingest, query и lint — позволяет автору разделить ответственность: загрузка новых материалов, обращение к уже накопленным знаниям и проверка их качества происходят как самостоятельные шаги, а не как единая монолитная операция.

Чем это отличается от обычного RAG

Классический RAG-подход при каждом запросе заново ищет релевантные фрагменты в базе документов и подставляет их в промпт — модель ничего не запоминает между сессиями, и контекст приходится пересобирать каждый раз с нуля. В LLM Wiki модель, наоборот, инкрементально дополняет и структурирует vault: результат каждого запроса не только отвечает пользователю, но и оседает в базе знаний в виде отдельного wiki-слоя, который можно переиспользовать в следующих запросах без повторного объяснения контекста.

Автор в статье показывает саму структуру vault и примеры того, как выглядит этот wiki-слой на практике, сравнивая получившийся подход с обычным RAG по удобству и по стоимости. По его описанию, ключевое отличие не в том, откуда модель берёт факты, а в том, что происходит с ответом после того, как он получен: в классическом RAG ответ теряется после сессии, а в LLM Wiki он остаётся частью базы для последующих обращений.

Какие риски есть у подхода

Автор отдельно разбирает риски, которые быстро проявляются на практике при таком подходе — в частности, вопрос стоимости постоянного ingest новых материалов и необходимость отдельного lint-процесса, чтобы база знаний не деградировала и не накапливала противоречивые записи по мере роста.

Стоимость ingest автор явно считал не абстрактно, а на конкретной модели — Yandex Foundation Models, — что говорит о попытке оценить экономику подхода на практике, а не только описать его архитектуру в теории.

Что это значит

Воркфлоу LLM Wiki предлагает альтернативу традиционному RAG: вместо того чтобы каждый раз пересобирать контекст из сырых документов, модель поддерживает живую, постоянно обновляемую базу знаний — это может снизить количество токенов, которые уходят на объяснение контекста, но требует отдельного контроля качества через lint, чтобы база оставалась достоверной.

Для тех, кто работает с LLM над большими массивами повторяющихся вопросов — будь то личная база знаний в Obsidian или корпоративная документация, — такой подход показывает практический путь снижения затрат на постоянное повторение одного и того же контекста в промптах.