El desarrollador reemplazó la explicación de contexto repetida de la red neuronal con el flujo de trabajo LLM Wiki

Un autor de blog técnico en Habr demostró un flujo de trabajo LLM Wiki: en lugar de re-explicar el contexto a una red neuronal con cada solicitud, el modelo completa gradualmente y organiza una base de conocimientos en almacenamiento Obsidian. Se utilizaron varios artículos de Habr como fuentes para completar la base, y el procesamiento de tareas se construyó sobre Codex.

De Qué Está Construido el Flujo de Trabajo

El sistema se basa en una combinación de varias herramientas y tres procesos secuenciales que el autor implementó independientemente en la parte superior de un vault existente en Obsidian.

• Almacenamiento de conocimientos — vault en Obsidian
• Procesamiento y generación de solicitudes — a través de Codex
• Fuentes para completar la base — varios artículos de Habr
• Tres procesos de canalización: ingest (carga de materiales), query (consultar la base), lint (verificación de calidad)
• El autor calculó el costo de ingest en el modelo Yandex Foundation Models

Constituir el flujo de trabajo en torno a exactamente tres procesos separados — ingest, query y lint — permite al autor dividir la responsabilidad: cargar nuevos materiales, acceder al conocimiento ya acumulado, y verificar la calidad ocurren como pasos independientes, no como una única operación monolítica.

Cómo Esto Difiere del RAG Regular

El enfoque clásico de RAG, con cada solicitud, busca nuevamente fragmentos relevantes en una base de documentos y los sustituye en el prompt — el modelo no recuerda nada entre sesiones, y el contexto tiene que ser reensamblado desde cero cada vez. En LLM Wiki, el modelo, por el contrario, complementa e estructura incrementalmente el vault: el resultado de cada consulta no solo responde al usuario, sino que también se asienta en la base de conocimientos como una capa wiki separada que se puede reutilizar en consultas posteriores sin re-explicar el contexto.

El autor muestra en el artículo la estructura del vault en sí y ejemplos de cómo se ve esta capa wiki en la práctica, comparando el enfoque resultante con RAG regular en términos de conveniencia y costo. Según su descripción, la diferencia clave no es de dónde obtiene el modelo los hechos, sino qué sucede con la respuesta después de que se recibe: en RAG clásico la respuesta se pierde después de la sesión, mientras que en LLM Wiki permanece como parte de la base para solicitudes posteriores.

Qué Riesgos Tiene el Enfoque

El autor analiza por separado los riesgos que se manifiestan rápidamente en la práctica con tal enfoque — en particular, la cuestión del costo de la ingesta constante de nuevos materiales y la necesidad de un proceso de lint separado para que la base de conocimientos no se degrade y no acumule entradas contradictorias a medida que crece.

El autor calculó los costos de ingest no de manera abstracta, sino en un modelo específico — Yandex Foundation Models — lo que habla de un intento de evaluar la economía del enfoque en la práctica, más que simplemente describir su arquitectura en teoría.

Lo Que Esto Significa

El flujo de trabajo LLM Wiki ofrece una alternativa a RAG tradicional: en lugar de reensamblar el contexto de documentos sin procesar cada vez, el modelo mantiene una base de conocimientos viva y constantemente actualizada — esto puede reducir la cantidad de tokens gastados explicando el contexto, pero requiere control de calidad separado a través de lint para mantener la base confiable.

Para aquellos que trabajan con LLM en grandes volúmenes de preguntas repetitivas — ya sea una base de conocimientos personal en Obsidian o documentación corporativa — tal enfoque muestra un camino práctico para reducir el costo de repetir constantemente el mismo contexto en prompts.