Agentes com Qwen3.6-27B e Qwen3-4B não cumprem o orçamento de tempo sem dicas do harness

Se você disser a um agente "você tem 30 minutos", ele não vai trabalhar exatamente 30 minutos. Os autores de um preprint recente no arXiv testaram isso em dois modelos pequenos: o Qwen3.6-27B em cinco competições do MLE-Bench Lite e o Qwen3-4B no jogo de texto Zork I, do conjunto Jericho. As duas tarefas não foram escolhidas ao acaso: nelas, tempo adicional pode de fato melhorar o resultado. A conclusão é incômoda. Os agentes não sabem cumprir um prazo nem aproveitar com critério a folga que têm.

Por que só o prompt não basta

Na configuração básica, o orçamento aparece apenas no texto da tarefa. O harness, ou seja, a camada que inicia o agente e executa seus comandos, não informa em nenhum momento quanto tempo já passou. O agente fica sem relógio. Os autores apontam três causas para a falha:

• não há retorno sobre o tempo: o modelo não vê quantos segundos já foram gastos;
• não há estimativa da duração das ações: o agente não consegue prever que o treinamento de um modelo ou uma execução longa não cabe no tempo restante;
• não há uma relação aprendida entre orçamento e estratégia: um limite curto não o leva a escolher um plano mais simples, e um limite longo não o estimula a se aprofundar mais.

A segunda causa pesa especialmente no MLE-Bench. Lá, um único passo mal escolhido, como iniciar um treinamento pesado, consome todo o restante do limite. Nesse caso, o erro de planejamento é, na prática, um erro de estimativa de tempo.

O que ajudou e o que não ajudou

Os pesquisadores avaliaram dois tipos de intervenção. O primeiro atua no nível do harness: mostrar os tempos ao agente e interromper o trabalho à força quando o prazo termina. O segundo treina o próprio modelo com reinforcement learning, mais especificamente GRPO com uma recompensa que leva o orçamento em conta.

O resultado com o harness é bastante direto. No Qwen3.6-27B, apenas informar o tempo melhorou de forma clara o cumprimento do orçamento, sem queda mensurável de qualidade. Hooks de encerramento forçado reforçaram ainda mais a disciplina. É uma solução barata: não é preciso mexer no modelo, basta alterar o harness.

O RL trouxe um quadro mais ambíguo. No Zork I, o GRPO levou o cumprimento do orçamento a um nível próximo do ideal e generalizou para orçamentos que não existiam no treinamento. Ao que tudo indica, o modelo realmente aprendeu a reconhecer quando é hora de parar. No MLE-Bench, porém, o treinamento não melhorou as métricas finais em relação ao agente não treinado no mesmo harness.

A principal descoberta está em outro ponto. Mesmo quando o agente é forçado a respeitar o limite, ele não passa a usar o tempo extra de forma produtiva. As políticas treinadas costumam preencher os minutos restantes com ações repetitivas. Além disso, quando o treinamento cobre vários orçamentos ao mesmo tempo, o GRPO tende a colapsar para a estratégia aprendida no limite mais curto. Ou seja, o modelo respeita o prazo, mas não transforma um orçamento maior em uma solução melhor.

Na prática, para quem desenvolve agentes

A conclusão mais sólida do trabalho: não confie no prompt. Se o agente tem um orçamento, coloque um timer no contexto e um corte rígido na camada de infraestrutura. Isso dispensa novo treinamento e, a julgar pelos resultados no modelo de 27B, não prejudica a qualidade.

Segundo: não confunda cumprimento do limite com eficiência. A métrica "terminou no prazo" deve andar junto com a métrica de resultado em vários orçamentos. Se a qualidade não cresce quando o limite aumenta, o agente está apenas queimando tempo.

Terceiro: ao treinar com RL para limites diferentes, vale monitorar o colapso para o regime curto. São necessários testes específicos com orçamentos longos e, possivelmente, recompensas que incentivem o uso útil da folga, e não apenas o respeito ao limite. Os autores apontam diretamente essa lacuna entre disciplina e produtividade como o principal problema em aberto para agentes condicionados a um orçamento.

As limitações do trabalho também são evidentes: dois modelos pequenos e dois benchmarks. Não convém transferir as conclusões para sistemas fechados de grande porte sem verificação. Ainda assim, como diagnóstico dos erros típicos de gestão de tempo em agentes, o preprint é útil.