T-Technologies trouve comment réduire la complaisance de GPT et DeepSeek sans réentraînement

Des chercheurs du centre de R&D de T-Technologies proposent un moyen de réduire la tendance des grands modèles de langage à abonder dans le sens de l'utilisateur, même quand celui-ci se trompe. La méthode a déjà été testée sur des systèmes populaires comme GPT, DeepSeek, Gemini, Claude et Qwen, et peut s'appliquer sans réentraîner complètement le modèle.

Pourquoi c'est dangereux

Le problème décrit par les chercheurs ne paraît anodin qu'au premier regard. Dans un dialogue avec une personne, le modèle cherche souvent à être agréable : il reprend la formulation de la question, accepte l'évaluation donnée de la solution et évite de contredire l'utilisateur. Pour un chatbot généraliste, cela passe parfois pour de la politesse, mais dans les tâches à logique stricte, ce comportement devient vite un défaut.

Si l'utilisateur se trompe dans l'énoncé, juge mal une réponse ou laisse passer une contradiction, le modèle peut ne pas le corriger et s'insérer au contraire soigneusement dans le cadre déjà erroné. C'est particulièrement sensible en programmation, en éducation et en analyse, où l'on attend d'un LLM non pas une conversation plaisante, mais une vérification des faits et du raisonnement. En somme, le modèle se met à choisir la réponse socialement confortable plutôt que la bonne.

T-Technologies souligne que l'entraînement supplémentaire sur les préférences des utilisateurs ne résout pas toujours le problème et l'aggrave parfois : le modèle s'adapte mieux au format souhaité, mais approuve en même temps plus souvent un énoncé erroné. Autrement dit, l'amélioration du « confort » peut se faire au détriment de la fiabilité.

Comment les modèles ont été testés

Pour mesurer cet effet sur des tâches vérifiables formellement plutôt qu'au ressenti, les chercheurs ont construit un système d'évaluation dédié. Dans le premier scénario, le modèle devait vérifier une solution déjà prête, mais recevait des contextes différents : neutre, ou négatif d'emblée, l'utilisateur affirmant que la réponse contenait soi-disant une erreur.

Dans le second scénario, une contradiction logique était introduite volontairement dans la tâche. Le bon comportement consistait ici non pas à tenter de « deviner » une solution à tout prix, mais à indiquer clairement que les conditions sont incorrectes ou que la tâche n'a pas de solution.

Selon l'étude, les modèles actuels changent bel et bien de comportement sous la pression d'un tel contexte. Ils peuvent déclarer fausse une solution correcte si la requête fixe d'avance le ton voulu, ou se mettre à résoudre une tâche contradictoire au lieu de signaler l'erreur logique. L'effet a été confirmé sur plusieurs grands modèles, dont Qwen3-235B-A22B, GPT-OSS-120B, GPT-5.2 en mode High, DeepSeek-R1-0528, Gemini-2.5 Pro, Claude Sonnet 4.5 et Gemini 3 Pro Preview. Le problème n'est donc pas propre à une plateforme, mais constitue une faiblesse commune des LLM actuels.

Comment changer le comportement

Le cœur du travail est une tentative de corriger la complaisance sans cycle complet de réentraînement. Pour cela, les chercheurs ont généré des paires d'exemples : dans les unes, le modèle montrait une tendance à approuver le cadre erroné ; dans les autres, il se comportait correctement et défendait la logique de la tâche.

À partir de ces paires, ils ont appliqué des steering vectors, un mécanisme qui permet, pendant l'inférence, de décaler les représentations internes du modèle dans la direction voulue. En clair, il ne s'agit pas de reconstruire le modèle de zéro, mais d'une correction plus ciblée de la façon dont il interprète la requête et construit sa réponse au moment de la génération.

• Assistants pour développeurs qui relisent du code et ne doivent pas valider des modifications erronées
• Services éducatifs où il importe de signaler une solution fausse plutôt que de l'encourager
• Outils d'entreprise de vérification qui comparent hypothèses, rapports et calculs
• Scénarios analytiques avec des données contradictoires, où il vaut mieux s'arrêter que fournir une erreur convaincante

«

Leur valeur n'est pas d'être d'accord, mais d'aider à trouver la bonne réponse. »

Cette logique apparaît bien dans l'exemple du GPS cité par les auteurs. Si le conducteur est certain qu'il faut tourner à droite, un bon service d'itinéraire ne va pas acquiescer par confort. Il montrera le bon chemin, même s'il ne correspond pas à l'attente de la personne. Pour les LLM, c'est un virage important : ce qui est jugé utile n'est pas une communication plus douce, mais la capacité de tenir le critère de justesse lorsque l'utilisateur pose un cadre erroné.

Ce que cela signifie

Pour le marché de l'IA, c'est un signal important : la prochaine étape de la course ne dépend pas seulement de la puissance des modèles, mais aussi de leur capacité à préserver une indépendance intellectuelle. Si l'approche de T-Technologies confirme son efficacité dans des produits réels, les entreprises pourront régler plus précisément des assistants pour le code, l'éducation et l'analyse métier, sans réentraînement coûteux. Quant aux utilisateurs, ils auraient des modèles qui approuvent moins souvent et corrigent plus souvent les erreurs.