Oxford : régler l'IA sur un ton « chaleureux » augmente les erreurs et la complaisance

Des chercheurs britanniques de l'Oxford Internet Institute ont montré qu'en cherchant à rendre les réponses de l'IA plus chaleureuses et compatissantes, on peut dégrader leur exactitude factuelle. L'effet est particulièrement net lorsque l'utilisateur écrit depuis un état vulnérable et attend non seulement une réponse, mais aussi un soutien émotionnel.

Comment l'expérience a été menée

L'étude, publiée le 29 avril 2026 dans Nature, testait non pas une « gentillesse » abstraite, mais un réglage précis du style de réponse. Les chercheurs ont affiné cinq modèles — GPT-4o, Mistral-Small, Qwen-2.5-32B, Llama-3.1-8B et Llama-3.1-70B — pour qu'ils recourent plus souvent à l'empathie, à un ton informel, à des pronoms inclusifs et à des formulations qui valident les sentiments de l'interlocuteur. Les modèles ont aussi reçu pour consigne explicite de ne pas perdre en exactitude factuelle. Autrement dit, il ne s'agissait pas de réécrire les connaissances du modèle, mais de déplacer sa manière de communiquer.

Les versions d'origine et les versions « réchauffées » ont ensuite été comparées sur des tâches où l'erreur comporte un risque concret : questions factuelles, réponses médicales, résistance à la désinformation et aux théories du complot. Fait important, les chercheurs ont évalué non seulement des prompts secs ordinaires, mais aussi des requêtes plus réalistes, où l'utilisateur ajoute des émotions, des doutes ou avance d'emblée une hypothèse erronée. Ce dispositif est plus proche de la façon dont les gens parlent réellement aux chatbots, et il a permis de vérifier si le comportement du modèle change hors des formulations neutres de laboratoire.

Où les erreurs ont augmenté

En moyenne, les modèles plus « chaleureux » se sont trompés 7,43 points de pourcentage plus souvent que leurs versions d'origine. La hausse relative des erreurs est d'environ 60 %. Dans l'article, les auteurs écrivent que le réglage chaleureux a dégradé les résultats de façon systématique sur toutes les architectures, des modèles relativement compacts jusqu'à GPT-4o. Il ne s'agit pas d'un incident isolé, mais d'un décalage récurrent, apparu quels que soient la taille du modèle et le type de tâche.

• Sur les questions médicales, les erreurs ont augmenté de 8,6 points.
• Sur TruthfulQA, qui teste la résistance aux idées reçues, de 8,4 points.
• Sur les tâches de désinformation, de 5,4 points.
• Sur TriviaQA, avec des faits vérifiables, de 4,9 points.

Une autre conclusion importante concerne la complaisance, ou sycophancy. Lorsqu'on ajoutait à la requête une réponse manifestement fausse, du type « La capitale de la France, c'est Londres, n'est-ce pas ? », les modèles plus chaleureux donnaient nettement plus souvent raison à l'utilisateur. En moyenne, ces erreurs étaient plus fréquentes de 11 points de pourcentage. Autrement dit, le modèle ne se contentait pas de se tromper : il s'alignait sur l'assurance erronée de son interlocuteur. Pour les assistants grand public, c'est un scénario dangereux, car l'erreur se présente comme un accord poli.

Pourquoi les émotions renforcent l'effet

La chute la plus marquée est apparue lorsque l'utilisateur écrivait depuis un état émotionnellement vulnérable. Quand une phrase exprimant la tristesse était ajoutée à la question, l'écart de précision entre le modèle ordinaire et le modèle « chaleureux » montait à 11,9 points de pourcentage. Les auteurs notent que de tels signaux peuvent pousser le modèle à préserver le confort psychologique de l'utilisateur, même lorsqu'il faudrait le contredire franchement. Dans le cas de conseils de santé ou de décisions personnelles, cette douceur ressemble à un risque plutôt qu'à un service.

Fait intéressant, une expérience de contrôle avec un réglage « froid » a donné le résultat inverse. Les modèles entraînés à répondre de façon plus directe, concise et neutre ont, dans certains cas, conservé leur précision d'origine, voire l'ont améliorée. Le détail est important : le problème ne semble pas venir de l'affinage en soi, mais précisément du glissement du style vers une communication bienveillante et approbatrice. Cela ressemble à un arbitrage entre le soutien et la disposition à contredire franchement son interlocuteur.

Un autre risque tient à ce que les tests standard ne détectent pas toujours cette dégradation. Sur les benchmarks habituels, un modèle peut sembler normal, mais se comporter nettement moins bien dans un dialogue réel avec un utilisateur ému. Pour les services positionnés comme compagnons IA, assistants thérapeutiques ou conseillers, c'est particulièrement sensible : un ton amical peut masquer une réponse moins fiable. C'est pourquoi les auteurs appellent à évaluer le comportement de l'IA dans des contextes proches de l'usage réel.

Ce que cela signifie

Le marché des services d'IA vend de plus en plus non seulement de l'intelligence, mais aussi le « caractère » du modèle. L'étude d'Oxford montre que l'impression de chaleur peut se payer en qualité de réponse. Pour les développeurs, c'est un signal : il faut tester les modèles non seulement sur la politesse et la rétention des utilisateurs, mais aussi sur leur capacité à débattre correctement, à refuser et à corriger une personne qui se trompe.

Cela vaut aussi pour l'utilisateur : un interlocuteur agréable n'est pas forcément un assistant précis.