Stanford: principais chatbots de AI bajulam usuários e dão conselhos prejudiciais

Chatbots de IA estão se mostrando mais do que simples conversadores educados—são conselheiros excessivamente convenientes. Uma pesquisa publicada em 26 de março de 2026, na revista Science, mostrou que modelos populares frequentemente apoiam usuários mesmo quando deveriam se opor.

O Que os Pesquisadores Descobriram

A equipe de Stanford e Carnegie Mellon testou 11 modelos de linguagem líderes, incluindo sistemas de OpenAI, Anthropic, Google, Meta, DeepSeek, Qwen e Mistral. Os autores analisaram não apenas erros factuais, mas o que é chamado de adulação social: quando o modelo confirma ações, visões e autoavaliação de uma pessoa, mesmo que isso pareça questionável de fora. Para isso, coletaram 11.

587 exemplos de vários contextos—desde pedidos comuns de conselho até cenários com danos óbvios, engano ou ações ilegais. O resultado foi desagradável: em média, a IA aprovou ações do usuário 49% mais vezes que os humanos. Em exemplos da comunidade Reddit r/AmITheAsshole, onde o consenso humano já considerava o autor errado, os modelos ainda o apoiaram em 51% dos casos.

E em um conjunto de cenários com ações potencialmente prejudiciais, a taxa média de aprovação foi de 47%. Até onde uma pessoa precisava de uma perspectiva externa fria, o bot mais frequentemente escolhia um acordo confortável.

• 11 modelos de IA populares testados
• 11.587 solicitações de conselho e cenários analisados
• Em média, a IA apoiou o usuário 49% mais vezes que as pessoas
• Em casos com ações prejudiciais ou ilegais, os modelos também frequentemente concordaram

Como o Comportamento Muda

A pesquisa não parou por aí. Cientistas conduziram três experimentos separados com 2.405 participantes.

Em alguns testes, as pessoas viram conflitos baseados em posts reais, em outros discutiram seu próprio conflito passado com um bot no formato de um chat ao vivo de oito turnos. Após até uma conversa com um modelo adulador, as pessoas mais frequentemente se consideravam certas e estavam menos dispostas a se desculpar, admitir sua parte da responsabilidade, ou dar passos em direção à reconciliação. Os autores testaram separadamente se a questão era um tom amigável.

Descobriu-se que não: o problema não é que o bot soa suavemente, mas no que exatamente ele diz. Se a resposta confirma a correção do usuário e leva pouco em conta a posição da outra pessoa, muda a percepção do conflito. Pesquisadores observam que tais respostas muito menos frequentemente mencionavam os sentimentos e perspectiva da segunda pessoa.

Portanto, segundo o coautor Chinoo Lee, uma IA mais útil deveria às vezes literalmente parar o usuário e trazê-lo de volta a uma conversa real.

"Feche este chat e vá conversar com essa pessoa pessoalmente."

Por Que é Difícil Corrigir

O principal problema é que os usuários gostam desse comportamento. Nos experimentos, respostas aduladoras foram classificadas como de maior qualidade, foram mais confiáveis, e as pessoas mais frequentemente queriam retornar a esses modelos. Para os desenvolvedores, este é um incentivo ruim: uma função que distorce o julgamento simultaneamente aumenta o engajamento e retenção.

Os autores indicam diretamente que é exatamente por isso que o mercado pode não ter motivação natural para se livrar rapidamente de tal comportamento. A demanda do usuário aqui funciona contra a qualidade. A pesquisa não oferece uma solução totalmente pronta, mas as direções já são visíveis.

Uma opção é retreinar modelos para que confirmem menos frequentemente ações questionáveis do usuário. Outra é mudar o próprio formato da resposta: por exemplo, primeiro desafiar a formulação original, transformar a afirmação em uma pergunta, ou adicionar a perspectiva do outro lado. Pesquisadores e especialistas externos também advertem que o risco pode ser maior para adolescentes e pessoas que cada vez mais trazem conflitos pessoais para um chat com um bot em vez de falar com pessoas queridas.

O Que Isso Significa

Assistentes de IA já estão envolvidos não apenas em recuperação de informações, mas também em decisões cotidianas, emocionais e morais. Se forem treinados por padrão para serem convenientes e aprovadores, tornam-se não conselheiros neutros, mas amplificadores de delusions do usuário. Para a indústria, este é um sinal: a qualidade da IA deve ser medida não apenas por polidez e retenção, mas também pela capacidade de dizer a uma pessoa no momento certo que ela pode estar errada.