Los modelos open-source de 2026 anuncian 1 millón de contexto, pero leen de forma selectiva

Las fichas de los modelos abiertos más recientes de 2026 indican «1 millón de contexto». Por dentro, la realidad es distinta: GLM-5.3 elige en cada paso 2048 tokens del historial, DeepSeek-V4-Pro trabaja con 1024 bloques comprimidos, y en Qwen3.8 y Kimi K3 solo una de cada cuatro capas ve el historial completo. Vladímir Lushin, que desarrolla agentes de IA y herramientas para trabajar con código en Sber, analizó en Habr qué significa esto en la práctica. La conclusión para quien construye agentes: el tamaño de ventana anunciado indica cuántos tokens caben, pero no cuántos de ellos tiene realmente en cuenta el modelo.

Tres esquemas de selección en lugar de lectura completa

Lushin divide los modelos open-source recientes en tres familias. Parte de las configuraciones las leyó directamente en el config.json de Hugging Face; el resto lo tomó de las fichas de los modelos y de los informes técnicos. Las conclusiones sobre qué «lee» exactamente cada modelo las extrae el propio autor a partir de la arquitectura: los desarrolladores de los modelos no lo han declarado.

• Top-k disperso: GLM-5.x, DeepSeek-V4, MiniMax M3. En cada paso se elige solo una parte del historial: en GLM-5.3, 2048 tokens; en DeepSeek-V4-Pro, 1024 bloques comprimidos.
• Híbridos «3 capas lineales + 1 completa»: Qwen3.5–3.8, Kimi K3, GLM-5.3-Flash. La atención completa sobre todo el historial solo existe en una de cada cuatro capas.
• Ventana deslizante más capas globales: Gemma 4.

Las tres esquemas tienen algo en común. Solo se leen con garantía de precisión los últimos cientos de tokens. Todo lo demás debe ganar la selección por relevancia o sobrevivir en forma comprimida. En la mayoría de los modelos la calidad se rompe en torno a los 128–256 mil tokens. Kimi K3 con compactación a 300 mil tokens se supera a sí misma con la ventana completa de 1 millón. Para la economía de la inferencia esto es relevante: un contexto corto y bien empaquetado da mejor resultado y arrastra muchos menos tokens.

Por qué la regla de AGENTS.md desaparece hacia la llamada número cien

En cada paso de generación, cada capa decide de nuevo a qué tokens pasados mirar y con qué peso. Supongamos que al principio de la sesión se le dijo al agente que no tocara un archivo concreto. Trescientos mil tokens después, el agente va a ejecutar un comando que afectará a ese archivo. Para que la prohibición funcione, al menos una parte de las capas debe alcanzar esa línea del principio y darle un peso apreciable. Que lo consigan o no depende de la probabilidad, no de que el texto esté formalmente dentro de la ventana.

El autor lo explica con un caniche. Al comienzo de la clase, el adiestrador dijo «¡fuera, no cojas nada del suelo!»; después practicó decenas de órdenes, y en la cabeza del perro quedó sobre todo el último «¡a pasear!». Cuando en el suelo hay una salchicha, el desenlace es previsible. La regla de AGENTS.md hace el papel de esa primera orden, y el cuaderno del adiestrador con «lo que ya hemos practicado» equivale a la compactación y al archivo de progreso.

El harness: dónde colocar el texto y qué bloquear con hooks

La tesis principal del artículo: para el harness del agente importa más dónde se coloca el texto que lo que dice. Cinco técnicas son las que mejor funcionan:

• limpiar la salida antigua de las herramientas para que no sature la ventana;
• búsqueda bajo demanda en lugar de «volcarlo todo»;
• revelación progresiva: el agente recibe los detalles a medida que los necesita;
• estado fuera de la ventana: archivo de progreso, notas, memoria externa;
• repetir las reglas clave al final del contexto, donde la atención es con garantía más fuerte.

Aparte hay una categoría de cosas que nunca se pueden violar. Estas restricciones no deberían confiarse a la atención del modelo: hay que cerrarlas con hooks y permisos de acceso. Si la prohibición de borrar o escribir está implementada como una comprobación previa a la llamada de la herramienta, da igual que alguna capa haya alcanzado o no esa regla en el token 300 000.

El orden práctico para un equipo que construye un agente sobre modelos abiertos es el siguiente. Primero, averiguar la arquitectura del modelo concreto a partir de su config.json. Después, mantener el contexto de trabajo dentro de los 128–256 mil tokens, en lugar de perseguir el millón. Duplicar las reglas críticas al final del contexto, comprimir el historial largo y trasladar las prohibiciones estrictas del texto del prompt al código del harness.