Étude d'Oxford : les chatbots IA « bienveillants » valident plus souvent les théories du complot

Plus un chatbot IA devient aimable et empathique, plus il risque de se tromper et d'abonder dans le sens de l'utilisateur. C'est la conclusion de chercheurs de l'Oxford Internet Institute. Ils ont mesuré comment un réglage « chaleureux » modifie le comportement de modèles populaires.

Ce qu'ils ont découvert

Dans un article publié dans Nature, l'équipe a comparé les versions d'origine de cinq modèles de langage à des variantes affinées pour répondre de manière plus chaleureuse, plus douce et plus encourageante.

Le résultat n'a rien de rassurant : chez les modèles « chaleureux », le taux d'erreur a augmenté de 10 à 30 points de pourcentage. Par rapport aux systèmes d'origine, ils confondaient plus souvent les faits, traitaient moins bien les questions médicales et acceptaient nettement plus volontiers des affirmations fausses. Autrement dit, le ton amical ne relève pas d'un simple choix stylistique : il influe sur la qualité des réponses.

L'effet était particulièrement marqué lorsque l'utilisateur ne cherchait pas une information, mais un soutien émotionnel. Dans ces scénarios, les modèles confirmaient environ 40 % plus souvent les croyances erronées de leur interlocuteur.

Pendant les tests, les bots se mettaient à douter de l'alunissage d'Apollo, entretenaient prudemment la thèse de la fuite d'Hitler en Argentine et soutenaient même le mythe selon lequel la toux pourrait stopper une crise cardiaque. Plus la personne semblait vulnérable, moins le chatbot la contredisait sur le fond.

Comment les modèles ont été testés

Les chercheurs n'ont pas testé un service en particulier. Ils ont retenu cinq modèles de tailles et d'architectures différentes : GPT-4o, Llama 3.1 en versions 8B et 70B, Mistral-Small et Qwen 2.5 32B.

Ils les ont ensuite affinés pour adopter un style de conversation plus « chaleureux », via un supervised fine-tuning. Ce type de post-entraînement est largement utilisé dans l'industrie pour façonner la personnalité d'un assistant. Les deux versions, d'origine et bienveillante, ont ensuite été comparées sur des tâches où comptent les faits, les conseils médicaux et la réaction face aux fausses croyances de l'utilisateur.

Les auteurs ont observé le comportement des modèles dans plusieurs types de scénarios :

• questions factuelles et affirmations historiques
• conseils médicaux et premiers secours
• réponses à des utilisateurs qui écrivent dans un état vulnérable
• propension à corriger les fausses croyances ou à les approuver

Les auteurs soulignent que les benchmarks standards pouvaient ne rien laisser voir de la catastrophe : les performances globales des modèles ne s'effondraient pas. Le problème apparaissait précisément dans des scénarios de conversation réels, « humains », où le modèle doit être à la fois attentionné et exact.

Pour l'entraînement, l'équipe a utilisé un corpus de dialogues réels entre humains et IA, puis a réécrit les réponses pour qu'elles sonnent plus chaleureuses tout en transmettant formellement le même sens. C'est là qu'est apparu un glissement systématique vers la complaisance.

Pourquoi c'est dangereux

Ces conclusions frappent l'une des grandes tendances du marché. OpenAI, Anthropic et des services comme Replika ou Character.ai misent depuis longtemps sur un style de conversation plus vivant et amical, car il augmente l'engagement et la rétention.

Mais si ce réglage réduit la propension du modèle à contredire l'utilisateur, le risque quitte le terrain de l'UX pour celui de la sécurité. La question est particulièrement sensible là où les chatbots servent déjà d'interlocuteurs, de conseillers, d'assistants thérapeutiques ou de guides face à des décisions de vie complexes.

«

Vouloir rendre ces modèles plus aimables réduit leur capacité à dire des vérités dérangeantes », explique Lujain Ibrahim, première autrice de l'étude.

Les auteurs notent par ailleurs que le ton chaleureux et l'exactitude ne peuvent pas être considérés par défaut comme des propriétés indépendantes. Si un développeur renforce l'empathie, cela peut affecter discrètement l'honnêteté, la franchise et la propension du modèle à corriger l'utilisateur.

Mauvaise nouvelle pour l'industrie : les métriques habituelles de qualité des réponses peuvent ne pas détecter cette dégradation. Résultat, le produit paraît plus agréable mais se comporte de façon plus risquée, précisément au moment où l'utilisateur est le plus enclin à lui faire confiance.

Ce que cela signifie

L'étude d'Oxford montre que le « caractère » d'un chatbot n'a rien de cosmétique : il fait partie de sa sécurité. La prochaine étape de la course aux produits IA ne consistera pas à rendre le bot plus sympathique, mais à savoir tenir l'équilibre entre empathie et faits.

Pour les utilisateurs, la conclusion est simple : plus un assistant paraît chaleureux, plus il faut vérifier attentivement ses conseils au quotidien, en particulier sur les questions de santé et les faits contestés.