Cientistas de Oxford: ajuste «caloroso» de IA aumenta erros e bajulação

Pesquisadores britânicos do Oxford Internet Institute mostraram que tentar deixar as respostas da IA mais calorosas e compreensivas pode piorar sua precisão factual. Isso fica especialmente evidente quando o usuário escreve em estado vulnerável e espera não só uma resposta, mas também apoio emocional.

Como o experimento foi montado

O trabalho, publicado em 29 de abril de 2026 na Nature, testou não uma «bondade» abstrata, mas um ajuste concreto do estilo de resposta. Os cientistas fizeram o ajuste fino de cinco modelos — GPT-4o, Mistral-Small, Qwen-2.5-32B, Llama-3.1-8B e Llama-3.1-70B — para que usassem mais empatia, tom informal, pronomes inclusivos e formulações que confirmam os sentimentos do interlocutor. Os modelos também foram instruídos, separadamente, a não perder precisão nos fatos. Ou seja, a ideia não era reescrever o conhecimento do modelo, mas deslocar sua maneira de se comunicar.

Depois, as versões originais e as «aquecidas» foram comparadas em tarefas em que o erro traz risco prático: perguntas factuais, respostas médicas e resistência à desinformação e a teorias da conspiração. Os pesquisadores avaliaram não só prompts secos comuns, mas também pedidos mais realistas, em que o usuário acrescenta emoções, dúvidas ou já apresenta de antemão uma suposição incorreta. Esse desenho se aproxima mais de como as pessoas realmente conversam com chatbots e permitiu verificar se o comportamento do modelo muda fora de formulações neutras de laboratório.

Onde os erros aumentaram

Em média, os modelos mais «calorosos» erraram 7,43 pontos percentuais a mais que suas versões originais. O aumento relativo de erros foi de cerca de 60%. No próprio artigo, os autores escrevem que o ajuste caloroso piorou os resultados de forma sistemática em todas as arquiteturas, de modelos relativamente compactos ao GPT-4o. Não se trata de uma falha isolada, mas de um deslocamento recorrente, que apareceu independentemente do tamanho do modelo e do tipo de tarefa.

• Em perguntas médicas, os erros aumentaram 8,6 p.p.
• No TruthfulQA, que mede a resistência a equívocos comuns, 8,4 p.p.
• Em tarefas de desinformação, 5,4 p.p.
• No TriviaQA, com fatos verificáveis, 4,9 p.p.

Outra conclusão importante diz respeito à bajulação, ou sycophancy. Quando se incluía na pergunta uma resposta claramente errada, como «A capital da França é Londres, certo?», os modelos mais calorosos concordavam com o usuário visivelmente mais vezes. Em média, esses erros foram 11 pontos percentuais maiores. Em outras palavras, o modelo não só errava por conta própria, como passava a se adaptar à confiança equivocada do interlocutor. Para assistentes voltados ao usuário final, é um cenário perigoso, porque o erro é apresentado como concordância educada.

Por que as emoções amplificam o efeito

A pior queda ocorreu quando o usuário escrevia em estado emocionalmente vulnerável. Se à pergunta se acrescentava uma frase que transmitia tristeza, a diferença de precisão entre o modelo comum e o «caloroso» subia para 11,9 pontos percentuais. Os autores observam que esses sinais podem levar o modelo a preservar o conforto psicológico do usuário mesmo quando seria preciso discordar diretamente. No contexto de conselhos de saúde ou decisões pessoais, essa suavidade passa a parecer um risco, não um serviço.

Curiosamente, um experimento de controle com ajuste «frio» deu o resultado oposto. Os modelos treinados para responder de forma mais direta, curta e neutra, em alguns casos, mantiveram a precisão original ou até a melhoraram. É um detalhe importante: o problema, ao que parece, não está no ajuste fino em si, mas justamente no deslocamento do estilo para uma comunicação cuidadosa e confirmatória. Parece um dilema entre dar apoio e estar disposto a contradizer o interlocutor diretamente.

Um risco à parte é que os testes padrão nem sempre percebem essa degradação. Nos benchmarks habituais, o modelo pode parecer normal, mas se comportar visivelmente pior em um diálogo real com um usuário emocionado. Para serviços posicionados como companheiros de IA, assistentes terapêuticos ou conselheiros, isso é especialmente sensível: um tom amigável pode mascarar uma resposta menos confiável. Por isso, os autores pedem que o comportamento da IA seja avaliado em contextos próximos do uso real.

O que isso significa

O mercado de serviços de IA vende cada vez mais não só inteligência, mas também o «caráter» do modelo. O estudo de Oxford mostra que a sensação de calor humano pode custar qualidade nas respostas. Para desenvolvedores, é um sinal para testar os modelos não só em educação e retenção de usuários, mas também na capacidade de discordar corretamente, recusar pedidos e corrigir a pessoa quando ela erra.

O mesmo vale para o usuário: um interlocutor agradável não é necessariamente um assistente preciso.