Desenvolvedor troca a reexplicação de contexto para a IA pelo workflow LLM Wiki

O autor de um blog técnico no Habr apresentou o workflow LLM Wiki. Em vez de reexplicar o contexto à rede neural a cada consulta, a modelo amplia e organiza aos poucos uma base de conhecimento em um vault do Obsidian. As fontes para alimentar a base foram alguns artigos do próprio Habr, e o processamento das tarefas roda no Codex.

Do que o workflow é feito

O sistema combina algumas ferramentas e três processos sequenciais, implementados pelo próprio autor sobre um vault já existente no Obsidian.

• Armazenamento do conhecimento: vault no Obsidian
• Processamento de consultas e geração: via Codex
• Fontes para alimentar a base: alguns artigos do Habr
• Três processos do pipeline: ingest (carregamento de materiais), query (consulta à base) e lint (verificação de qualidade)
• O custo do ingest foi calculado pelo autor no modelo Yandex Foundation Models

Ao estruturar o workflow em três processos separados — ingest, query e lint —, o autor consegue dividir as responsabilidades: o carregamento de novos materiais, a consulta ao conhecimento já acumulado e a verificação de sua qualidade acontecem como etapas independentes, e não como uma única operação monolítica.

Como isso difere do RAG tradicional

Na abordagem clássica de RAG, cada consulta dispara uma nova busca por trechos relevantes na base de documentos, que são então inseridos no prompt. A modelo não guarda nada entre sessões, e o contexto precisa ser remontado do zero toda vez. No LLM Wiki acontece o contrário: a modelo complementa e estrutura o vault de forma incremental. O resultado de cada consulta responde ao usuário e, além disso, fica registrado na base de conhecimento como uma camada wiki separada, que pode ser reaproveitada nas consultas seguintes sem reexplicar o contexto.

No artigo, o autor mostra a estrutura do vault e exemplos de como essa camada wiki fica na prática, comparando a abordagem com o RAG convencional em praticidade e custo. Segundo ele, a diferença central está menos na origem dos fatos que a modelo usa e mais no destino da resposta depois de gerada: no RAG clássico, ela se perde ao fim da sessão; no LLM Wiki, passa a integrar a base para as consultas seguintes.

Quais são os riscos da abordagem

O autor dedica uma análise à parte aos riscos que surgem rapidamente na prática com esse modelo — em especial, o custo do ingest contínuo de novos materiais e a necessidade de um processo de lint dedicado, para que a base de conhecimento não se degrade nem acumule registros contraditórios à medida que cresce.

O autor calculou o custo do ingest de forma concreta, em um modelo específico — o Yandex Foundation Models —, o que indica uma tentativa de avaliar a economia da abordagem na prática, indo além de descrever sua arquitetura na teoria.

O que isso significa

O workflow LLM Wiki oferece uma alternativa ao RAG tradicional: em vez de remontar o contexto a partir de documentos brutos a cada vez, a modelo mantém uma base de conhecimento viva e em constante atualização. Isso pode reduzir a quantidade de tokens gastos explicando contexto, mas exige um controle de qualidade separado, via lint, para que a base continue confiável.

Para quem usa LLMs diante de grandes volumes de perguntas recorrentes — seja numa base de conhecimento pessoal no Obsidian, seja em documentação corporativa —, a abordagem aponta um caminho prático para cortar os custos de repetir o mesmo contexto nos prompts o tempo todo.