Google propõe pensar mais fundo, não por mais tempo, e reduz à metade o custo de inferência

Nos últimos anos, a indústria de grandes modelos de linguagem seguiu uma regra não escrita: se você quer uma resposta mais precisa para uma pergunta difícil, faça o modelo pensar por mais tempo. A técnica Chain-of-Thought, em que o modelo monta passo a passo uma cadeia de raciocínio antes da resposta final, virou o padrão-ouro. Desenvolvedores alongaram essas cadeias, ampliaram as janelas de contexto e gastaram cada vez mais recursos computacionais em cada requisição. Mas um novo estudo da Universidade da Virgínia e do Google afirma: durante todo esse tempo, confundimos verbosidade com inteligência.

A ideia por trás do trabalho é enganosamente simples. Os pesquisadores perguntaram se cada token adicional na cadeia de raciocínio realmente aproxima o modelo da resposta certa. Ou uma parte significativa desses tokens seria ruído informacional, repetição e enrolação? Para responder, a equipe criou uma nova métrica: Deep-Thinking Ratio, ou coeficiente de pensamento profundo. Em vez de medir o tamanho do raciocínio em tokens, a métrica avalia que fatia do raciocínio contém passos lógicos produtivos, ou seja, aqueles que levam à solução e não apenas preenchem espaço.

Os resultados foram eloquentes. A análise mostrou que, nas cadeias de raciocínio longas típicas dos LLMs atuais, uma enorme parte dos passos intermediários não carrega peso semântico real. O modelo pode reformular dezenas de vezes o mesmo pensamento, voltar a etapas já superadas e gerar explicações redundantes, e tudo isso custa dinheiro de verdade. Cada token desnecessário na etapa de inferência significa tempo de GPU, energia elétrica e latência para o usuário final. Em grandes serviços que processam bilhões de requisições, os valores são colossais.

A principal conquista do estudo é que, ao otimizar o processo de raciocínio levando em conta o Deep-Thinking Ratio, foi possível obter ao mesmo tempo duas coisas normalmente vistas como mutuamente excludentes. A precisão das respostas do modelo aumentou, porque cortar passos improdutivos reduz de fato a chance de o modelo se perder no próprio raciocínio e chegar a uma conclusão errada. E os custos totais de inferência caíram cerca de metade, porque o modelo gera bem menos tokens por requisição. Não é uma troca entre qualidade e custo, mas um caso raro em que otimizar um parâmetro melhora os dois.

Para entender a escala da descoberta, vale lembrar o contexto. O custo de inferência é uma das maiores dores de cabeça do setor. OpenAI, Google, Anthropic e outras empresas gastam bilhões de dólares em infraestrutura computacional, e boa parte desse gasto vai justamente para gerar respostas aos usuários. Modelos como o1 e o3, da OpenAI, e o Gemini com raciocínio estendido, do Google, foram projetados especificamente para cadeias de raciocínio longas. Se ficar provado que metade desse raciocínio pode ser cortada sem prejuízo, ou, mais precisamente, que o modelo pode ser ensinado a não gerá-lo desde o início, o efeito econômico será medido em centenas de milhões de dólares por ano.

Há também um aspecto teórico mais profundo. O estudo, na prática, questiona o próprio paradigma de escalonamento da inferência que dominou 2024-2025. Se «pensar por mais tempo» não equivale a «pensar melhor», a corrida por janelas de contexto maiores e por mais orçamento computacional para raciocínio é um beco sem saída. Em vez disso, talvez a indústria deva se concentrar na qualidade de cada passo do raciocínio, e não na quantidade. Isso ecoa o funcionamento do pensamento humano: um especialista resolve um problema não porque pensa por mais tempo que um novato, mas porque cada passo mental seu é mais direcionado.

As consequências práticas para desenvolvedores e usuários podem aparecer bem rápido. Deep-Thinking Ratio é uma métrica relativamente simples de integrar aos pipelines existentes de treinamento e avaliação de modelos. É de se esperar que grandes laboratórios passem a usar abordagens semelhantes no fine-tuning, e provedores de nuvem, na otimização do custo das chamadas de API. Para o usuário final, isso significa respostas mais rápidas e, ao mesmo tempo, mais precisas, pelo mesmo preço ou menos.

O estudo do Google e da Universidade da Virgínia lembra ao setor uma verdade fácil de esquecer na corrida por escala: eficiência não é sobre «mais», e sim sobre «mais preciso». Os modelos do futuro provavelmente não serão os que pensam por mais tempo, mas os que sabem pensar com objetividade.