Habr AI explica cómo los agentes de coding usan memoria, herramientas y el contexto del repositorio

Habr AI publicó una traducción de un artículo sobre cómo funcionan los asistentes de codificación modernos y por qué su calidad está determinada no solo por el modelo en sí. El texto carece de profundidad técnica excesiva, pero expone bien lo fundamental: herramientas, memoria, contexto del repositorio y lo que normalmente se oculta detrás del botón "Generate".

No Solo el Modelo

Una de las principales tesis del artículo es que un agente de codificación no es simplemente un LLM con acceso a chat. Entre el modelo y la tarea hay un harness — un entorno de trabajo que proporciona al agente reglas, herramientas y un ciclo de ejecución. Es este harness el que decide si el modelo verá la estructura del proyecto, si puede ejecutar pruebas, leer un archivo, comparar un diff y volver a un error después de un intento fallido. Sin él, incluso un modelo fuerte rápidamente se convierte en un generador de respuestas plausibles pero mal verificadas.

La infraestructura de codificación se diferencia de la infraestructura de agentes ordinaria en que está adaptada a un flujo de trabajo muy específico. No necesita "acciones" abstractas, sino una integración estrecha con las herramientas de desarrollo. Tal agente no debería simplemente razonar sobre una corrección, sino seguir el camino típico de un ingeniero: abrir el código, encontrar el módulo relacionado, verificar las restricciones, realizar un cambio y ver inmediatamente el resultado.

Un conjunto básico de herramientas típicamente se ve así:

• lectura y búsqueda en archivos
• ejecución de pruebas y linters
• revisión de diff y estado de git
• edición de código considerando la estructura del proyecto

Cuanto más estrecho es este ciclo, menos trabajo manual queda para el usuario. Por eso dos asistentes construidos sobre el mismo modelo pueden parecer productos de diferentes clases. Si uno solo puede conversar y el otro vive junto a la terminal y el repositorio, la diferencia en los resultados será notable en la primera tarea no trivial. El modelo sigue siendo el mismo, pero el entorno lo convierte en un socio útil o simplemente en un generador de texto charlatán.

Memoria y Repositorio

El segundo tema importante es la memoria. Para un agente de codificación, no es suficiente simplemente recordar los últimos mensajes del usuario. Necesita un rastro de trabajo: qué archivos ya han sido estudiados, qué hipótesis fueron probadas, por qué falló una prueba, qué segmentos de código ya han sido modificados y qué no puede romperse en el camino. Tal memoria reduce notablemente la repetición y ayuda a evitar andar en círculos cuando una tarea se resuelve en varios pasos, no en una respuesta.

El contexto del repositorio se discute por separado. Un buen asistente debe entender no solo el archivo actual, sino también las conexiones entre módulos, convenciones del proyecto, abstracciones existentes y código vecino del cual la corrección depende. Cuando un agente ve solo un fragmento insertado, escribe algo localmente plausible, pero a menudo falla en la arquitectura general. Cuando ve el repositorio como un sistema, comienza a elegir mejor dónde hacer cambios, reutiliza patrones existentes y rara vez inventa entidades innecesarias.

Aquí también queda más claro por qué se necesita la compactación. A medida que avanza el trabajo, el historial crece y la ventana de contexto no es infinita. Por eso los buenos sistemas comprimen periódicamente los pasos acumulados en un estado breve pero útil: qué se ha hecho ya, qué no funcionó, qué restricciones importan ahora. Si se hace cuidadosamente, el agente no pierde el hilo de la tarea. Si se hace mal, rápidamente olvida detalles críticos y comienza a explicar lo obvio nuevamente.

Por Qué la Consola es Más Fuerte

Esto conduce a una observación familiar para muchos desarrolladores: el mismo modelo en una herramienta de consola a menudo parece más inteligente que en un chat web ordinario. La razón no es magia ni necesariamente una versión diferente del modelo. Simplemente en la terminal, el agente está incrustado en un entorno de trabajo: ve archivos, ejecuta comandos, recibe retroalimentación de las pruebas y puede ajustar rápidamente el siguiente paso. En el chat, el usuario mismo arrastra fragmentos de código de aquí para allá y ensambla manualmente el contexto que el agente necesita para funcionar adecuadamente.

Es exactamente por eso que este artículo es útil no solo para quienes construyen sus propios asistentes, sino también para quienes simplemente los usan. Ayuda a entender por qué un modelo "crudo" y un producto basado en él son diferentes niveles de un sistema. Superficialmente, parece que solo cambia la interfaz. En la práctica, lo que cambia es el acceso a las herramientas, la forma en que se gestiona la memoria, las reglas para seleccionar contexto y la propia disciplina de ejecución de tareas. Para un desarrollador, esta ya es una diferencia tangible en calidad.

Qué Significa Esto

Para el mercado del desarrollo de IA, este es un cambio importante en la comprensión del valor del producto. La competencia ya no es solo entre modelos, sino entre los entornos en los que estos modelos operan. Por eso los asistentes de codificación que ganaran serán aquellos mejor integrados en el proceso real de desarrollo: capaces de usar herramientas, mantener el historial de trabajo en memoria y entender el repositorio más profundamente que solo un archivo abierto.