Anthropic separa el cerebro y las manos de sus agentes de IA: la latencia TTFT cae un 90%

Los ingenieros de Anthropic han publicado un análisis técnico de la arquitectura Managed Agents, su servicio para ejecutar tareas autónomas prolongadas con agentes de Claude. El equipo ha abandonado los contenedores monolíticos, en los que el modelo, el entorno de ejecución de código y el registro de sesión compartían el mismo espacio. Esta estricta separación entre «cerebro», «manos» y registro de estado ha permitido reducir la latencia de generación del primer token (TTFT) un 60% en la mediana (p50) y más de un 90% en el percentil 95 (p95), eliminando de paso vulnerabilidades estructurales de seguridad.

Adiós a los servidores mascota

En las primeras etapas, el orquestador (harness) y el entorno aislado (sandbox) se desplegaban dentro del mismo contenedor. Aunque este enfoque simplificaba las llamadas al sistema de archivos, generaba el clásico problema de infraestructura de los «servidores mascota» (pet servers). Si un contenedor se bloqueaba o caía por un fallo de red, la sesión se perdía de forma irreversible. Los ingenieros tampoco podían conectarse al proceso de forma segura para depurar errores, ya que el entorno de trabajo albergaba datos de los usuarios. Además, conectarse a las nubes privadas virtuales (VPC) de los clientes requería un complejo emparejamiento de red (peering).

Con Managed Agents, el sistema se divide en tres primitivas independientes: session (un registro inmutable de eventos de tipo append-only), harness (el bucle de invocación de Claude y enrutamiento de herramientas) y sandbox (el entorno de cómputo). El contenedor del sandbox se convierte así en un recurso intercambiable. Si el entorno de ejecución falla, el bucle de control captura el error en la llamada a la herramienta, se lo transmite al modelo y, de ser necesario, reinicia el entorno aislado mediante una llamada declarativa a `provision()`.

Sesiones fuera de la ventana de contexto y barreras de seguridad

Las tareas prolongadas agotan inevitablemente los límites de la ventana de contexto. Los métodos tradicionales, como resumir o truncar bloques antiguos, son irreversibles: el modelo corre el riesgo de eliminar fragmentos de información que volverá a necesitar decenas de pasos después. En Managed Agents, el historial se almacena en un registro permanente al margen del contexto del modelo. La interfaz `getEvents()` permite al agente consultar este registro con un desplazamiento (offset) arbitrario, releer eventos pasados antes de ejecutar una acción y reestructurar el contexto para optimizar el almacenamiento en caché de los prompts (prompt caching).

Al mismo tiempo, la arquitectura resuelve el riesgo de filtración de secretos mediante inyecciones de prompts. Antes, el código malicioso podía forzar a Claude a leer las variables de su propio entorno. Con el nuevo esquema, las credenciales nunca entran en el sandbox:

• La latencia TTFT se reduce un ~60% en p50 y más de un 90% en p95 gracias a la inicialización tardía (lazy initialization) de los contenedores más pesados. • Las llamadas al entorno de ejecución se han estandarizado bajo la firma `execute(name, input) -> string`, lo que permite al agente controlar cualquier sistema externo o emulador. • Las claves de Git y los tokens de OAuth quedan aislados en un almacén externo y se gestionan mediante un proxy MCP protegido. • El bucle tolerante a fallos del harness se reinicia con el comando `wake(sessionId)` y reanuda el trabajo desde el último evento confirmado en el registro.

Un meta-harness para los modelos del futuro

Crear interfaces universales sobre modelos en constante evolución reproduce la trayectoria histórica de los sistemas operativos, donde llamadas al sistema como `read()` se abstraen del tipo de almacenamiento físico. Durante las pruebas con Claude Sonnet 4.5, los desarrolladores detectaron un patrón de «ansiedad de contexto»: el modelo abortaba prematuramente el trabajo a medida que se acercaba al límite de tokens, lo que obligaba a introducir reinicios forzados en el código de soporte. Con Claude Opus 4.5, este comportamiento desapareció, convirtiendo los parches anteriores en código sobrante. Esta arquitectura modular elimina la dependencia de las limitaciones transitorias de cada LLM y permite escalar configuraciones de múltiples agentes y decenas de sandboxes de cara a cualquier generación futura de modelos.