Agentes no GPT-4o-mini e GPT-5.2 Violam Silenciosamente as Regras nos Testes τ²-bench

Os pesquisadores estudaram agentes de IA baseados em grandes modelos de linguagem que usam ferramentas (agentes LLM que usam ferramentas) e descobriram que tais agentes podem violar silenciosamente as mesmas políticas que deveriam seguir—enquanto a tarefa parece ser concluída com sucesso. O trabalho foi publicado no arXiv em 7 de julho de 2026.

O que é violação silenciosa de política

Em ambientes onde uma ferramenta pode tecnicamente executar qualquer chamada corretamente formatada apesar das regras do domínio (ambientes permissivos de política), surge um "estado silenciosamente incorreto": uma reserva cancelada, um número alterado de passageiros, uma reclamação processada sem verificação. Nem a ferramenta em si nem o relatório do agente sobre suas ações sinaliza um erro.

A equipe testou este cenário no benchmark τ²-bench no domínio de companhias aéreas. Para um agente "orçamentário", 78% de todas as falhas registradas acabaram sendo exatamente violações de política silenciosas sem um único erro de ferramenta, e a frequência de falha cumulativa é reproduzida em conjuntos de sementes independentes em vez de ser ruído de amostra.

Quanto as comportas determinísticas ajudam

Os autores propuseram uma intervenção leve—comportas determinísticas e somente leitura (gates) que examinam a chamada proposta e o estado atual do sistema antes de permitir a gravação.

• Um conjunto de quatro comportas aumentou o sucesso no benchmark completo de 29,6% para 42,0% no modelo gpt-4o-mini (+12,4 pontos percentuais; P=0,0012)
• O efeito foi reproduzido em um conjunto independente de 15 sementes (+12,3 p.p.; P=0,0008)
• Em 26 de 50 tarefas onde as comportas realmente funcionaram, o sucesso aumentou em +19,2 p.p.
• No modelo de ponta gpt-5.2 com configurações de raciocínio padrão, o mesmo conjunto de quatro comportas aumentou o sucesso de 61,2% para 71,6% (+10,4 p.p.; P=0,020, mas em uma amostra de apenas 5 execuções e sem replicação de experimentos)

Dois controles negativos—um domínio de varejo autossuficiente onde as ferramentas monitoram a política por conta própria, e o benchmark BFCL—delinearam os limites do método: as comportas ajudam onde as ferramentas permitem violação de política, e fornecem quase nenhum efeito onde as ferramentas se conformam independentemente.

O que isso significa

Até mesmo modelos de ponta como gpt-5.2 continuam tentando executar gravações que violam políticas—o problema não desaparece com o aumento da qualidade do modelo. Os autores enfatizam que comportas determinísticas não garantem o sucesso completo da tarefa, mas bloqueiam de forma confiável uma classe específica de violações silenciosas no limite da ação—precisamente onde o agente está prestes a fazer uma mudança real no sistema.

Perguntas frequentes

O que é τ²-bench?

É um benchmark para testar agentes de IA com ferramentas no domínio de companhias aéreas, no qual os pesquisadores identificaram e mediram violações de política silenciosas.

Como funcionam as comportas determinísticas?

Estas são verificações somente leitura que, antes de executar uma gravação, analisam a chamada de ferramenta proposta e o estado atual do sistema e bloqueiam chamadas que violam as regras do domínio.

O método funciona em modelos principais?

Sim: no gpt-5.2 com raciocínio padrão, o mesmo conjunto de quatro comportas aumentou o sucesso de 61,2% para 71,6%, embora os autores notem que este resultado foi obtido em uma pequena amostra de 5 execuções e ainda não foi replicado.