Incertitude mécanistique des LLM : mesurer la robustesse causale des mécanismes internes

Le problème des hallucinations dans les applications critiques

Les grands modèles de langage sont largement utilisés dans des systèmes où les erreurs ont de lourdes conséquences — du diagnostic médical à l'analyse juridique. Le problème central : les LLM génèrent des réponses qui sonnent de manière convaincante mais sont incorrectes (hallucinations). Les méthodes traditionnelles d'évaluation de l'incertitude, fondées sur l'analyse des logits et des probabilités de sortie, échouent souvent face à ce défi. Il faut une méthode qui reflète directement la fiabilité des mécanismes internes du modèle.

Les chercheurs Aneesh Komanduri, Majid Afshar, Timothy A. Miller et Yanjun Gao introduisent le concept d'incertitude mécanistique. Cette approche caractérise l'incertitude non pas à travers les distributions de sortie, mais à travers la stabilité des mécanismes internes qui soutiennent la génération de la réponse. Si les représentations internes sont solides et cohérentes, la marge de robustesse est large. Si elles sont fragiles, la marge est étroite.

La marge de robustesse causale et les outils employés

Le concept central de l'étude est la marge de robustesse causale (causal robustness margin). Il s'agit de l'intervention interne minimale nécessaire pour que le modèle change sa réponse. Plus la marge est large, plus le modèle se tient fermement à son choix du point de vue de sa structure interne.

Pour la mise en œuvre pratique, les auteurs utilisent les vecteurs de direction conceptuelle Jacobian Lens (Jlens) — un outil de pilotage conceptuel (concept steering) permettant de modifier de manière ciblée les activations à l'intérieur du transformeur. Les chercheurs mesurent quelle amplitude d'intervention il faut appliquer à ces vecteurs pour faire dévier le modèle de sa prédiction actuelle. Cette amplitude constitue précisément la marge de robustesse causale.

Résultats expérimentaux

L'étude a porté sur 3 modèles de langage ouverts et 5 jeux de données de questions-réponses. Les conclusions sont nettes et reproductibles :

• Les réponses incorrectes affichent des marges de robustesse causale nettement plus étroites que les réponses correctes • Les réponses que le modèle produit avec une faible confiance montrent une sensibilité accrue aux interventions internes • La marge de robustesse causale fonctionne de manière orthogonale aux méthodes traditionnelles : elle complète, sans dupliquer, l'information issue des distributions de sortie

Validation par injection de connaissances

Pour une vérification supplémentaire, les auteurs ont mené une expérience contrôlée d'injection de connaissances. Le modèle a été entraîné sur de nouveaux faits, et après cet entraînement, les connaissances correctement assimilées affichaient des marges de robustesse causale accrues. Cette observation est cruciale : la marge de robustesse réagit à un véritable apprentissage, et non à un simple artefact statistique.

Portée pour le développement et la sécurité

L'incertitude mécanistique offre aux développeurs un outil fondamentalement nouveau. Au lieu d'un aveu abstrait du type « nous ne savons pas quand le modèle se trompe », il devient possible d'analyser directement la robustesse des représentations internes du modèle. C'est particulièrement précieux pour les applications à enjeux élevés : on peut non seulement estimer une probabilité, mais comprendre de manière mécanistique à quel point le modèle se tient fermement à son choix, en analysant la sensibilité de ses processus internes aux interventions.

Les travaux ont été publiés en octobre 2026 (arXiv 2610.22636).