Machine Learning Mastery publica una guía de context engineering para agentes de IA fiables

Machine Learning Mastery ha publicado una guía práctica de context engineering para agentes de IA, la disciplina que determina qué datos ve el modelo en cada momento de su trabajo. La tesis central del artículo: los problemas en producción de los sistemas agénticos se relacionan más a menudo no con la calidad del modelo, sino con cómo los desarrolladores gestionan el contexto, el historial y los tokens.

Por qué fallan los agentes

El autor propone ver la ventana de contexto como un recurso computacional limitado, y no como un detalle técnico que se pueda ignorar. Los tokens tienen un coste que no es solo económico, porque cada llamada al modelo se paga: una entrada larga y mal estructurada también reduce la calidad del razonamiento. El modelo presta más atención al principio y al final del contexto, mientras que el centro suele perder influencia aunque formalmente todo quepa en el límite.

La ventana de contexto no es una limitación que haya que sortear, sino

el parámetro de diseño principal de un sistema agéntico.

De ahí el escenario de fallo típico: al agente simplemente se le "pega" todo, como respuestas antiguas, tool outputs sin procesar, fragmentos duplicados de retrieval y decisiones obsoletas. Aumentan la latencia y el coste, y la señal útil se ahoga en el ruido. El artículo lo compara con la RAM: la memoria rápida es potente, pero finita. Todo lo que el agente no necesita ahora mismo debe guardarse en memoria externa y entrar en el contexto solo bajo demanda.

Cómo construir el contexto

La idea arquitectónica más útil de la guía es separar con rigor el contexto estático del dinámico. La parte estática incluye las instrucciones del sistema, el rol del agente, las reglas, las descripciones de herramientas y el formato de respuesta. Estos datos casi no cambian, así que se pueden cachear como prefijo. La parte dinámica es la consulta actual del usuario, los resultados recientes de las herramientas, los últimos pasos del agente y los documentos que realmente hacen falta en esa etapa concreta.

Antes de montar el prompt, el autor aconseja auditar todas las capas que suelen llenar la context window:

• instrucciones del sistema y ejemplos few-shot;
• historial de diálogo, respuestas del agente y resultados de tool calls;
• datos externos de una base de conocimiento, archivos o búsqueda;
• estado de trabajo: conclusiones intermedias, plan, next steps.

La conclusión práctica es sencilla: no hay que minimizar cada capa a cualquier precio, sino eliminar solo lo que no ayuda al paso actual.

Resulta útil un esquema de dos pasadas. Primero el sistema levanta el armazón permanente: system prompt, reglas cacheables y summaries de larga vida. Después carga la parte variable: el estado actual de la tarea, retrieval reciente y una cola breve y relevante del historial. Este montaje además facilita la depuración, porque se ve enseguida si el problema está en la configuración o en los datos de la sesión actual.

Cómo controlar la calidad

Un bloque aparte del artículo se centra en las dos zonas donde los agentes se degradan más rápido: el historial de diálogo y el retrieval. Acumular sin más toda la conversación infla el contexto rápidamente y consolida los errores del modelo como si fueran hechos. El autor aconseja pasar del historial en bruto a un rolling summary, o incluso a un session state estructurado que registre por separado la intención del usuario, las decisiones tomadas, las acciones ejecutadas y el siguiente paso. Así el agente tiene memoria sin un crecimiento infinito de tokens.

Con el retrieval la lógica es parecida: cada lote de datos recuperado consume presupuesto, por lo que no puede considerarse gratuito. El artículo recomienda filtrar los resultados antes de insertarlos en el prompt, usar semantic chunking en lugar de cortar en trozos de tamaño fijo y, cuando haga falta, combinar la búsqueda semántica con filtros por palabras clave o metadatos. Para sistemas maduros se considera más sólida la opción de agent-controlled retrieval, en la que el propio agente invoca la búsqueda solo cuando de verdad la necesita, y no automáticamente en cada turno.

Para producción, el autor propone medir no solo la respuesta final, sino también la calidad del propio contexto. Entre las métricas útiles están el uso del presupuesto de tokens, el grado de compresión tras el summary, la precisión del retrieval y las señales de context drift, cuando el agente empieza a releer archivos ya procesados o se desvía de la tarea original. Otra técnica práctica es la probe-based evaluation: tras la compresión o el retrieval, se hacen al sistema preguntas de control para comprobar si se conservaron los hechos y artefactos necesarios y si se puede continuar una tarea de varios pasos desde el mismo punto.

Qué significa

La guía de Machine Learning Mastery refleja bien un cambio en el desarrollo de agentes: la calidad de un agente de IA depende ahora no solo de la elección del modelo, sino de lo disciplinado que sea el diseño de la memoria, el retrieval y el presupuesto de tokens. Para los equipos que llevan agentes a producción, es una señal directa de que deben diseñar el contexto como una capa arquitectónica independiente, y no como la cola de un prompt.