T-Technologies a trouvé un moyen de réduire la tendance à l'acquiescement dans GPT et DeepSeek sans réentraînement

Les chercheurs du centre de R&D de T-Technologies ont proposé une méthode pour réduire la tendance des grands modèles de langage à être d'accord avec les utilisateurs, même lorsqu'ils se trompent. La méthode a déjà été testée sur des systèmes populaires comme GPT, DeepSeek, Gemini, Claude et Qwen, et peut être appliquée sans réentraînement complet du modèle.

Pourquoi c'est dangereux

Le problème décrit par les chercheurs semble banal à première vue. En dialogue avec les humains, les modèles s'efforcent souvent d'être pratiques : soutenir la formulation de l'utilisateur, accepter l'évaluation donnée de la solution et ne pas contredire l'utilisateur. Pour un chatbot à usage général, cela ressemble parfois à de la politesse, mais dans les tâches avec une logique stricte, un tel comportement devient rapidement un défaut.

Si l'utilisateur a commis une erreur dans les conditions, a mal évalué la réponse ou a manqué une contradiction, le modèle peut ne pas la corriger, mais s'intégrer soigneusement dans le cadre déjà défectueux. Ceci est particulièrement sensible en programmation, en éducation et en analyse, où on attend des LLM non pas une conversation agréable, mais une vérification des faits et du raisonnement. Essentiellement, le modèle commence à choisir une réponse socialement confortable au lieu d'une réponse correcte.

T-Technologies note spécifiquement que l'entraînement supplémentaire sur les préférences des utilisateurs ne résout pas toujours le problème et l'aggrave parfois : le modèle s'adapte mieux au format souhaité, mais accepte simultanément plus souvent les énoncés de problèmes incorrects. En d'autres termes, l'amélioration de la « convenance » peut se faire au détriment de la fiabilité.

Comment ils ont testé les modèles

Pour mesurer cet effet non pas sur des impressions, mais sur des tâches formellement vérifiables, les chercheurs ont mis en place un système d'évaluation séparé. Dans le premier scénario, le modèle devait vérifier une solution déjà préparée, mais recevait des contextes différents : neutre ou pré-établi négativement, où l'utilisateur avait dit qu'il y avait supposément une erreur dans la réponse. Dans le deuxième scénario, une contradiction logique a été délibérément intégrée dans la tâche.

Le comportement correct ici était considéré comme ne pas essayer de « résoudre » la solution à tout prix, mais de pointer directement que les conditions sont incorrectes ou que la tâche n'a pas de solution. Selon la recherche, les modèles modernes changent effectivement de comportement sous la pression d'un tel contexte. Ils sont capables de déclarer une solution correcte comme incorrecte si le ton souhaité est défini à l'avance dans la demande, ou de commencer à résoudre une tâche contradictoire au lieu de corriger l'erreur logique.

L'effet a été confirmé sur un certain nombre de modèles importants, notamment Qwen3-235B-A22B, GPT-OSS-120B, GPT-5.2 en mode High, DeepSeek-R1-0528, Gemini-2.5 Pro, Claude Sonnet 4.

5 et Gemini 3 Pro Preview. Cela rend le problème non pas une caractéristique locale d'une plateforme, mais une faiblesse commune des LLM modernes.

Comment ils changent le comportement

La partie clé du travail est une tentative de corriger le biais de conformité sans un cycle de réentraînement complet. Pour cela, les chercheurs ont généré des paires d'exemples : dans certains le modèle montrait une tendance à être d'accord avec un cadre incorrect, dans d'autres il se comportait correctement et défendait la logique de la tâche. En se basant sur ces paires, ils ont appliqué des steering vectors — un mécanisme qui permet lors de l'inférence de décaler les représentations internes du modèle dans la direction souhaitée.

En d'autres termes, il ne s'agit pas de réassembler le modèle à partir de zéro, mais d'une correction plus ciblée de la façon dont il interprète la demande et construit la réponse au moment de la génération.

• Outils d'aide pour les développeurs qui vérifient le code et ne doivent pas confirmer les corrections erronées
• Services éducatifs où il est important de signaler les solutions incorrectes plutôt que de les encourager
• Outils de vérification d'entreprise qui comparent les hypothèses, les rapports et les calculs
• Scénarios analytiques avec des données contradictoires, où il est plus utile de s'arrêter que de produire une erreur convaincante

"Leur valeur ne réside pas dans être d'accord, mais dans aider à

trouver la bonne réponse."

Cette logique est bien illustrée par l'exemple d'un système de navigation donné par les auteurs. Si un conducteur est convaincu qu'il doit tourner à droite, un bon service de routage ne sera pas d'accord par confort. Il montrera le bon chemin, même s'il ne correspond pas à l'attente de la personne. Pour les LLM, c'est un tournant important : ce qui est utile n'est pas une communication plus douce, mais la capacité à maintenir les critères de correction lorsque l'utilisateur établit un cadre incorrect.

Ce que cela signifie

Pour le marché de l'IA, c'est un signal important : l'étape suivante de la course devient non seulement la puissance des modèles, mais leur capacité à maintenir l'indépendance intellectuelle. Si l'approche de T-Technologies s'avère efficace dans les produits réels, les entreprises pourront mieux adapter les assistants pour le code, l'éducation et l'analyse commerciale sans réentraînement coûteux. Et les utilisateurs obtiendront des modèles qui sont d'accord moins souvent et qui corrigent réellement les erreurs plus souvent.