Anthropic separa cérebro e braços de agentes de IA: latência TTFT cai 90%

Os engenheiros da Anthropic publicaram uma análise técnica da arquitetura Managed Agents, serviço voltado à execução de tarefas autônomas de longa duração com agentes Claude. A equipe abandonou os contêineres monolíticos, nos quais o modelo, o ambiente de execução de código e o log da sessão compartilhavam o mesmo espaço. A transição para uma separação estrita entre "cérebro", "braços" e registro de estado permitiu reduzir a latência para o primeiro token (TTFT) em 60% na mediana (p50) e em mais de 90% no percentil 95 (p95), eliminando também brechas estruturais de segurança.

O fim dos servidores de estimação

Nas versões iniciais, o orquestrador (harness) e o ambiente isolado (sandbox) eram implantados no mesmo contêiner. Esse formato simplificava as chamadas de sistema de arquivos, mas gerava o clássico problema de infraestrutura dos "servidores de estimação" (pets). Se o contêiner travasse ou caísse por oscilações de rede, a sessão era perdida de forma irreversível. Os engenheiros não conseguiam se conectar ao processo para depuração de forma segura, já que dados de usuários ficavam armazenados dentro do ambiente ativo. Além disso, a conexão com nuvens privadas virtuais (VPCs) de clientes exigia configurações complexas de emparelhamento de rede.

No Managed Agents, o sistema foi dividido em três primitivas independentes: session (um log de eventos imutável do tipo append-only), harness (o loop de chamada do Claude e roteamento de ferramentas) e sandbox (o ambiente computacional). O contêiner da sandbox tornou-se um recurso descartável e substituível. Caso o ambiente de execução falhe, o loop de controle intercepta o erro da chamada de ferramenta, repassa a informação ao modelo e, se necessário, reinicia o ambiente isolado por meio de uma instrução declarativa `provision()`.

Sessões fora da janela de contexto e barreiras de segurança

Tarefas extensas inevitavelmente esgotam o limite da janela de contexto. Abordagens tradicionais, como sumarização ou descarte de blocos antigos, são irreversíveis: o modelo corre o risco de apagar um trecho crucial para etapas posteriores. No Managed Agents, o histórico é armazenado em um log persistente fora do contexto do modelo. A interface `getEvents()` permite que o agente consulte o log a partir de qualquer deslocamento (offset), releia o histórico antes de executar uma ação e reconstrua o contexto visando um reaproveitamento eficiente do cache de prompts.

Em paralelo, a equipe neutralizou o risco de vazamento de credenciais via prompt injection. No modelo anterior, códigos maliciosos podiam induzir o Claude a inspecionar as variáveis do próprio ambiente. Com a nova estrutura, dados de autenticação nunca chegam à sandbox:

• A latência TTFT caiu cerca de 60% no p50 e mais de 90% no p95 graças à inicialização sob demanda (lazy initialization) de contêineres pesados. • A chamada ao ambiente de execução foi padronizada sob a assinatura `execute(name, input) -> string`, o que permite ao agente controlar quaisquer sistemas externos e emuladores. • Chaves de Git e tokens de OAuth ficam isolados em um cofre externo e são utilizados apenas por meio de um proxy MCP seguro. • O loop resiliente do harness é reiniciado com o comando `wake(sessionId)`, retomando a operação a partir do último registro confirmado no log.

Meta-harness para modelos do futuro

O desenvolvimento de interfaces universais sobre modelos em constante evolução espelha a trajetória dos sistemas operacionais, onde chamadas como `read()` abstraem o tipo de armazenamento físico subjacente. Durante os testes com o Claude Sonnet 4.5, os desenvolvedores enfrentaram a chamada "ansiedade de contexto", comportamento no qual o modelo encerrava o trabalho prematuramente ao se aproximar do teto de tokens, exigindo intervenções forçadas no código de suporte. No Claude Opus 4.5, essa característica desapareceu, tornando obsoletas as soluções paliativas anteriores. A arquitetura modular elimina a dependência de restrições pontuais de cada LLM e viabiliza o dimensionamento de múltiplos agentes e dezenas de sandboxes para qualquer geração futura de modelos.