CToM ensina LLMs a prever a resposta do usuário e eleva a precisão a 79,6%

Pesquisadores publicaram no arXiv o método Collaborative Theory of Mind (CToM), que ensina modelos de linguagem a trabalhar melhor com humanos em diálogos longos. O modelo primeiro escreve um rascunho, depois prevê como o usuário vai responder e só então aprimora a resposta. Em uma tarefa de raciocínio matemático colaborativo, a precisão final subiu de 74,1% para 79,6% em comparação com o GRPO convencional. Em programação e redação, com a mesma recompensa, o usuário precisou responder 8% e 17% menos vezes, respectivamente.

Onde a colaboração quebra

Os autores partem de uma observação familiar para quem já fez com LLMs algo mais complexo do que uma única consulta. Os modelos são fortes em tarefas isoladas, mas se comportam de forma incômoda em diálogos de vários turnos. Eles se lançam na resolução sem descobrir o que a pessoa realmente precisa. Ao receber uma correção, não revisam as premissas anteriores e continuam construindo sobre uma base errada. O aprendizado por reforço tradicional, que recompensa apenas o resultado final, não resolve isso: o modelo não recebe nenhum sinal sobre o que a pessoa pensa da jogada dele.

Como funciona o CToM

O ciclo proposto tem três etapas: rascunho da resposta, previsão da reação do usuário e revisão interna com base nessa previsão. O humano vê apenas o resultado final. No treinamento, a mensagem real do usuário para cada rascunho serve de alvo para a previsão do turno seguinte, e o assistente é treinado para minimizar a negative log-likelihood dessa mensagem. Essa tarefa é combinada com o GRPO (group-relative policy optimization). Assim, o modelo otimiza ao mesmo tempo a qualidade da solução e a eficiência da interação, isto é, o número de turnos necessários para chegar ao resultado.

O resumo do artigo não esclarece se as mensagens dos usuários eram de pessoas reais ou geradas por um simulador. Disso depende o quanto o resultado se transfere para produtos reais, e a resposta terá de ser buscada no texto completo do artigo.

Os números

O método foi testado em raciocínio matemático, programação e redação. Segundo os autores, o CToM supera todos os métodos de referência em qualidade de colaboração. Principais resultados:

• matemática: precisão final de 79,6% contra 74,1% do GRPO ingênuo, ganho de 5,5 p.p.;
• programação: com a mesma recompensa, a adição de supervisão para a previsão reduz em 8% o número de mensagens do usuário;
• redação: redução de 17% no número de mensagens, com aumento simultâneo da qualidade;
• análise comportamental: após o treinamento, as previsões das reações do usuário ficam mais precisas.

O último ponto é o mais importante dos quatro, porque mostra o mecanismo. Os autores constataram que previsões mais precisas estão associadas a um ganho de qualidade mais expressivo por meio da autocorreção. Isso indica que o benefício não vem de efeitos colaterais do treinamento, mas da capacidade do modelo de modelar o interlocutor. A conclusão, por ora, é correlacional, e tratá-la como causalidade comprovada seria precipitado.

O que os desenvolvedores podem fazer com isso

Para equipes que constroem assistentes e agentes de programação, a ideia é prática. As mensagens dos usuários após cada resposta já estão nos logs, e isso é um alvo de treinamento pronto para a previsão do turno seguinte. Vale incluir a métrica "quantas vezes a pessoa precisou corrigir o modelo" ao lado da precisão: uma economia de 8–17% de turnos em uma sessão longa é perceptível no trabalho real.

Há também limitações. Rascunho, mais previsão, mais revisão significam tokens extras e latência, e o resumo do artigo não discute o custo de inferência. O ganho de 5,5 p.p. em matemática é modesto, e o trabalho continua sendo um preprint em primeira versão, sem verificação independente. Se a previsão da reação for errada, a revisão pode desviar a resposta do caminho certo. Antes de adotar o método, vale testá-lo em diálogos próprios e comparar o número de turnos e a qualidade final com o modelo base.