O colapso dos agentes de IA: a matemática prova que eles nunca serão confiáveis

Lembra como, no ano passado, todo mundo de repente parou de falar de chatbots e passou a sonhar com «agentes»? Prometeram que a IA logo reservaria passagens, escreveria código para departamentos inteiros e gerenciaria cadeias de suprimentos enquanto tomamos um smoothie. Acontece que a matemática tem outra opinião, bastante desagradável para quem já reescreveu seus planos de negócios em torno da «autonomia total».

Um grupo de pesquisadores publicou um trabalho que atinge o ponto mais sensível da indústria: a impossibilidade matemática de os agentes de IA autônomos funcionarem de forma confiável. O problema não é que os modelos sejam «burros» ou que lhes faltem dados de treinamento do Reddit. O problema está na própria estrutura das tarefas sequenciais. Se você pede à IA que faça algo em um único passo, a probabilidade de sucesso é alta. Mas, assim que monta uma cadeia de dez ações, começa o terror implacável da teoria das probabilidades.

Imagine que cada passo do agente seja executado com 95% de precisão. Parece bom, não é? Entre humanos, é nível de aluno nota 10. Mas, numa cadeia de dez passos, a probabilidade total de sucesso cai para menos de 60%. E se forem cem passos? A chance de o agente chegar ao fim sem transformar seu projeto em lixo digital tende a zero. Isso é chamado de «acúmulo catastrófico de erros» e, pelo visto, não se resolve simplesmente aumentando a janela de contexto ou adicionando mais um lote de GPUs H100.

A indústria está numa posição muito estranha. De um lado, capitalistas de risco injetando bilhões em startups como a Cognition, que prometem «o primeiro engenheiro de IA do mundo». De outro, a matemática seca, dizendo: «Pessoal, isso não vai funcionar como vocês desenham nas apresentações». Tentamos construir um arranha-céu num pântano, na esperança de que, se a fachada ficar mais bonita, a fundação se firme por conta própria.

O mais irônico é que as empresas continuam vendendo a «autonomia» como principal recurso. Na prática, o que recebemos são sistemas que exigem vigilância constante. Não é libertação da rotina, mas uma nova forma de supervisão, em que o humano vira revisor eterno de um algoritmo meio louco. Se um agente erra em 5% dos casos, mas o faz em silêncio e com absoluta convicção de que está certo, ele se torna mais perigoso que o funcionário mais preguiçoso e incompetente. O erro de uma pessoa dá para prever; o de um modelo estatístico, não.

Antes nos encantávamos com a rede neural escrevendo poemas ou explicando física quântica. Era divertido, mas praticamente inútil para a produção real. Então veio a era dos agentes. A ideia era simples: dar ao modelo ferramentas (navegador, terminal, acesso a APIs) e deixá-lo agir. Isso transformou a IA de «papagaio inteligente» em «estagiário digital». Mas, como se viu, esse estagiário sofre de uma forma grave de desatenção progressiva, embutida nas próprias fórmulas.

O que isso significa para nós no curto prazo? Muito provavelmente, a era do «aperte um botão e receba o resultado» fica adiada por tempo indeterminado. Teremos de repensar a arquitetura da IA: sair da autonomia total e ir para módulos rigidamente controlados, em que cada passo seja verificado não por outra IA, mas por métodos formais ou por uma pessoa. A matemática não se engana com vídeos de demonstração chamativos no X (antigo Twitter). O caminho para uma inteligência real, capaz de agir com confiabilidade, passa pela compreensão de relações de causa e efeito, e não por simplesmente adivinhar o próximo token.

O principal: os agentes de IA, na forma atual, são uma armadilha estatística. Enquanto não resolvermos o problema do acúmulo de erros, a «autonomia» continuará sendo uma atração cara e pouco confiável para investidores. Esperamos o hype finalmente bater de frente com a realidade?