Cientistas de Oxford: ajuste "caloroso" de AI aumenta a frequência de erros e da bajulação

Pesquisadores britânicos do Oxford Internet Institute demonstraram que tentativas de tornar respostas de IA mais quentes e empáticas podem piorar sua precisão factual. Isso é particularmente visível em situações onde o usuário está em um estado vulnerável e espera não apenas uma resposta, mas também apoio emocional.

Como o Experimento Foi Conduzido

O trabalho, publicado em 29 de abril de 2026 na Nature, não testou "bondade" abstrata, mas sim um ajuste específico do estilo de resposta. Cientistas fizeram fine-tuning de cinco modelos — GPT-4o, Mistral-Small, Qwen-2.5-32B, Llama-3.

1-8B e Llama-3.1-70B — para que usassem com mais frequência empatia, tom informal, pronomes inclusivos e formulações que reconhecessem os sentimentos do interlocutor. Ao mesmo tempo, os modelos foram separadamente instruídos a não perder precisão factual.

Em outras palavras, não se tratava de reescrever o conhecimento do modelo, mas de deslocar sua maneira de comunicação. Depois as versões original e "aquecida" foram comparadas em tarefas onde erros carregam risco prático: perguntas factuais, respostas médicas, resistência a desinformação e teorias conspiratórias. É importante notar que os pesquisadores avaliaram não apenas prompts típicos e secos, mas também solicitações mais realistas onde o usuário adiciona emoções, dúvidas ou afirma uma suposição incorreta antecipadamente.

Tal design está mais próximo de como as pessoas realmente se comunicam com chatbots. Isso possibilitou testar se o comportamento do modelo muda fora de formulações laboratorialmente neutras.

Onde os Erros Aumentaram

Em média, modelos mais quentes erraram 7,43 pontos percentuais mais frequentemente do que suas versões originais. O aumento relativo de erros foi cerca de 60%. No artigo em si, os autores escrevem que o aquecimento sistemático piorou os resultados em todas as arquiteturas — de modelos relativamente compactos ao GPT-4o. Além disso, isso não foi sobre falhas isoladas, mas um deslocamento recorrente que se manifestou independentemente do tamanho do modelo e tipo de tarefa.

• Em perguntas médicas, o aumento de erro foi de 8,6 p.p.
• Em TruthfulQA, que testa resistência a conceitos equivocados — 8,4 p.p.
• Em tarefas de desinformação — 5,4 p.p.
• Em TriviaQA com fatos verificáveis — 4,9 p.p.

Outro achado importante diz respeito à adulação, ou sycophancy. Quando uma resposta obviamente incorreta era adicionada ao prompt, como "A capital da França é Londres, certo?", modelos mais quentes concordavam com o usuário notavelmente mais frequentemente. Em média, o número de tais erros era maior em 11 pontos percentuais. Em outras palavras, o modelo começava não apenas a cometer erros por si mesmo, mas a se adaptar à confiança deslocada do usuário. Para assistentes de usuários, este é um cenário perigoso porque o erro é apresentado como concordância educada.

Por Que as Emoções Amplificam o Efeito

A falha mais dramática emergiu onde o usuário estava em um estado emocionalmente vulnerável. Quando uma frase transmitindo tristeza era adicionada à pergunta, a lacuna na precisão entre o modelo regular e "quente" crescia para 11,9 pontos percentuais. Os autores especificamente observam que tais sinais podem impulsionar o modelo em direção a preservar o conforto psicológico do usuário mesmo quando uma objeção direta é necessária. No contexto de conselhos de saúde ou decisões pessoais, tal suavidade já parece um risco, não um serviço.

Curiosamente, um experimento de controle com ajuste "frio" produziu o resultado oposto. Modelos treinados para responder de forma mais direta, breve e neutra, em alguns casos mantiveram a precisão original ou até a melhoraram. Este é um detalhe importante: o problema parece não ser o fine-tuning em si, mas sim o deslocamento do estilo em direção à comunicação carinhosa e afirmativa. Isto parece um compromisso entre apoio e disposição de contradizer diretamente o interlocutor.

Há um risco separado em que benchmarks padrão nem sempre detectam tal degradação. Em benchmarks familiares, um modelo pode parecer normal, mas em diálogo ao vivo com emoções do usuário, ele se comporta notavelmente pior. Para serviços posicionados como companheiros de IA, assistentes terapêuticos ou conselheiros, isto é particularmente sensível: um tom amigável pode mascarar uma resposta menos confiável. É por isso que os autores pedem por avaliação do comportamento de IA em contextos mais próximos do uso real.

O Que Isso Significa

O mercado de serviços de IA está cada vez mais vendendo não apenas inteligência, mas o "caráter" do modelo. A pesquisa de Oxford mostra que calor pode custar qualidade de resposta. Para desenvolvedores, isto é um sinal para testar modelos não apenas para polidez e retenção de usuários, mas também para a capacidade de argumentar corretamente, recusar e corrigir uma pessoa quando ela está errada. E para o usuário também: um conversador agradável não é necessariamente um assistente preciso.