Как устроен AI-агент: слои-обёртки вокруг LLM и где искать источник бага

Un desarrollador con formación en ML publicó en Habr en julio de 2026 un análisis del funcionamiento interno de los agentes de IA: en el centro de cualquier esquema de agente sigue habiendo un único LLM, mientras que a su alrededor crece una "cebolla" de capas envolventes, y la mayoría de los fallos ocurren precisamente en esas capas, no en el propio modelo.

Qué se esconde detrás de la palabra "agente"

Un agente de IA no es la red neuronal en sí, sino varias capas de código a su alrededor. Los frameworks cambian, aparecen servidores MCP, las plataformas en la nube prometen un "agente listo para usar", pero el núcleo es el mismo en todas partes: un modelo de lenguaje grande (LLM) que lee el contexto y propone el siguiente paso. Todo lo que está por fuera es el andamiaje que prepara la entrada y procesa la salida del modelo.

El autor enumera los niveles típicos con los que se ensambla un agente sobre el modelo:

• LLM — el núcleo, predice las probabilidades del siguiente token
• Capa de prompt y contexto — qué es exactamente lo que entra al modelo
• Orquestación y llamada de herramientas — cómo la respuesta del modelo se convierte en una acción
• Servidores MCP — acceso estandarizado del agente a datos y funciones externas
• Frameworks y envoltorios en la nube — un "agente listo para usar" por encima de todo esto

Cada nivel añade su propia lógica: uno reúne el contexto, otro decide qué herramienta llamar, un tercero conecta datos externos. El modelo en sí no ejecuta ninguno de estos pasos — solo predice texto.

Por qué el error suele no estar en el modelo

El origen de una falla en un agente suele estar no en el LLM, sino en una de las capas externas: en cómo se armó el prompt, cómo se transmitió el contexto, cómo se procesó la llamada a la herramienta. El propio modelo, según la formulación del autor, hace exactamente una cosa — predice el siguiente token; todo lo demás lo añaden las envolturas a su alrededor.

«El propio modelo solo predice las probabilidades del siguiente token; por fuera crece una cebolla de envoltorios», — el autor del artículo en

Habr.

Precisamente por eso, señala el autor, al depurar es importante entender toda la construcción: si el agente no se ensambla a partir de un kit ya hecho, conocer las capas ayuda a localizar más rápido el problema. Comprobar el modelo primero es un error frecuente: si la respuesta del agente parece incorrecta, la causa suele estar en que al modelo llegó un contexto equivocado, o en que un nivel vecino interpretó mal su respuesta. El modelo, mientras tanto, funcionó con normalidad.

Por qué mirar desde el modelo hacia afuera

El análisis está construido desde el núcleo hacia la periferia — del LLM hacia los envoltorios externos — porque el autor llegó a los agentes desde el ML, donde cada nueva capa se apoya sobre algo ya conocido. Este orden, según sus palabras, hace el panorama más claro: primero qué hace el modelo, luego qué hace cada envoltorio sobre él. El camino inverso — desde un "agente listo para usar" hacia adentro — oculta exactamente dónde pasa el límite de responsabilidad de cada capa.

El motivo del artículo es cotidiano: las notas nacieron después de otra búsqueda conjunta de un error con el equipo técnico. El autor las reunió en una sola reseña para que la próxima vez fuera más fácil explicarles a los colegas qué se encuentra dónde en el esquema del agente y dónde mirar ante un fallo. En esencia, es un mapa de niveles cómodo de consultar durante la depuración.

Qué significa esto

Detrás de la palabra de moda "agente" hay una pila de varias capas, y entender esta estructura es una habilidad práctica de depuración: cuando un agente se comporta de forma extraña, el análisis debería empezar no por el LLM, sino por los envoltorios a su alrededor, donde se esconde la mayoría de los errores.