The Trinity aprimorou a camada de controle de um agente de IA e somou 9,8 pontos em tarefas novas

Seu agente entra pela segunda vez em uma sala que já verificou, esquece uma restrição e gasta o restante do orçamento em chamadas inúteis. A vontade imediata é pagar por um modelo mais potente. Mas primeiro vale verificar o código ao redor dele: o que fica salvo na memória, quais observações entram no prompt e o que determina a hora de parar. The Trinity investiga como melhorar automaticamente essa camada.

Segundo os resultados apresentados no material, os módulos da primeira iteração elevaram a pontuação média em tarefas novas de 37,45 para 47,26 — cerca de 9,8 pontos. É um resultado útil sem alterar os pesos do modelo. O ganho mais impressionante de 26,2 pontos também aparece nas tabelas, mas inclui condições adicionais que mudam bastante o significado da comparação.

O agente escreve suas próprias instruções de trabalho

A camada de controle é o código que transforma o modelo em um agente capaz de agir. Ela prepara as observações, armazena o histórico, organiza as chamadas a ferramentas, verifica restrições e gerencia novas tentativas. Até um bom modelo terá dificuldades se esse código perder repetidamente uma parte importante do estado.

Imagine um labirinto com portões: é possível avançar, mas não voltar pelo mesmo caminho. Não basta o agente encontrar uma rota curta. Ele precisa lembrar a posição dos portões e verificar de antemão o caminho de volta. No The Trinity, um erro assim se torna motivo para acrescentar o módulo correspondente à camada de controle.

O sistema distribui o trabalho entre três papéis desempenhados por um único modelo congelado. Evolver analisa os erros e propõe mudanças. Creator cria ambientes de treinamento simplificados. Explorer percorre esses ambientes e coleta trajetórias: sequências de observações, decisões e resultados. Um programa hospedeiro separado valida os ambientes e as alterações propostas.

As tarefas são agrupadas pelas capacidades necessárias para resolvê-las. Um labirinto e um quebra-cabeça visual podem ficar no mesmo grupo se ambos exigirem interpretar as observações com precisão e lembrar o estado. Para esses grupos, o sistema cria pequenos mundos nos quais é mais fácil reproduzir e analisar o erro em questão do que em um jogo completo e longo.

Por que o ganho de 26 pontos precisa de explicação

Após quatro iterações, a pontuação média em 18 benchmarks novos subiu de 37,45 para 63,61 pontos. Porém, a estimativa mais alta usa uma escolha ideal da camada de controle: cada tarefa recebe a melhor variante. O roteador real, que precisa escolher antecipadamente com base na descrição disponível, obteve 60,96 pontos.

Também há uma preparação antes da avaliação. Cada variante da camada de controle recebe cinco tentativas no benchmark correspondente; depois, essa experiência é condensada em habilidades armazenadas. Os episódios preparatórios não entram na pontuação final. Portanto, o resultado não pode ser interpretado como a resolução de tarefas inteiramente desconhecidas no primeiro contato.

A comparação da primeira iteração ajuda a separar os efeitos. Os módulos aprendidos, sozinhos, acrescentam cerca de 9,8 pontos à base; as habilidades preparadas, sozinhas, cerca de 11,2. Juntos, acrescentam cerca de 16,1. O autor da análise não encontrou uma comparação equivalente sem preparação para a quarta iteração.

Os dois robôs físicos da nova seção também exigem uma ressalva específica: os módulos foram treinados em versões simuladas dessas mesmas tarefas. O que se testa aqui é a transferência do simulador para o hardware. E o resultado de 60% significa seis episódios bem-sucedidos em dez — a escala do experimento ainda é pequena.

O que aplicar no seu próprio produto

A comparação mais interessante diz respeito aos ambientes de treinamento. No treinamento direto nos benchmarks, a árvore de capacidades quase não melhorou o desempenho em relação a uma única camada de controle compartilhada, mas exigiu aproximadamente três vezes menos tokens. A mudança para simulações criadas pelo próprio sistema acrescentou quase cinco pontos em tarefas novas, embora tenha aumentado os custos de treinamento.

Para uma equipe, isso é motivo para começar com um registro de falhas recorrentes. Se o agente costuma esquecer as condições para voltar, crie um ambiente pequeno com essas condições. Se ele viola as restrições de uma ferramenta, monte tarefas curtas e verificáveis voltadas a essa falha. Depois, compare a camada de controle modificada com a original em cenários reservados para avaliação, usando o mesmo orçamento.

The Trinity apresenta uma hipótese prática: algumas limitações do agente podem ser corrigidas com memória, verificações e tarefas de treinamento. Mas o ganho anunciado deve ser decomposto: quanto veio dos próprios módulos, quanto veio das tentativas preliminares e com que eficácia o sistema escolhe a camada de controle adequada em uma execução real.