Calibration des modèles de langage : trois méthodes pour aligner confiance et exactitude

Les modèles de langage "mentent" souvent avec leur confiance : ils disent « je suis 90% sûr », mais se trompent la moitié du temps. L'étalonnage est un ensemble de techniques qui élimine ce fossé sans modifier les poids du modèle. L'article couvre trois des approches post-hoc les plus courantes.

Pourquoi l'étalonnage déficient est dangereux

Un modèle bien étalonné signifie : s'il assigne « 70% de probabilité » à un événement, en réalité un tel événement devrait se produire dans environ 70% des cas similaires. Cela semble raisonnable, mais en pratique la plupart des LLM modernes sont surconfidents — ils surestiment systématiquement leur propre précision, en particulier dans les scénarios éloignés des données d'entraînement. Le problème n'est pas abstrait.

Dans les produits où les décisions sont prises en fonction des probabilités du modèle — diagnostic médical, notation de crédit, expertise juridique, algorithmes commerciaux — la confiance incorrecte conduit directement à des décisions erronées. Un utilisateur voit « 90% de confiance » et fait confiance à une réponse qui n'est objectivement correcte que 55% du temps.

L'écart peut être mesuré de deux manières. ECE (Erreur d'étalonnage attendue) — une seule métrique numérique qui moyenne l'écart absolu entre les probabilités prédites et les fréquences réelles par plages. Diagramme de fiabilité — un outil visuel : l'axe X est les probabilités prédites, l'axe Y est la précision réelle. L'étalonnage parfait est une ligne diagonale droite. L'écart vers le bas signifie surconfiance; vers le haut signifie sous-confiance.

Trois méthodes d'étalonnage post-hoc

Les trois approches sont appliquées après l'entraînement du réseau de neurones. Elles ne modifient pas les poids mais corrigent les probabilités de sortie au stade de l'inférence en utilisant un petit apprentissage supplémentaire sur les données de validation. Cela les rend pratiques : pas besoin d'accès à l'entraînement du modèle, pas besoin d'annotation supplémentaire.

• Platt Scaling — entraîne la régression logistique sur les logits bruts du modèle. Rapide et simple, nécessite peu de données. Suppose une distorsion sigmoïdale — fonctionne bien si le modèle surestime ou sous-estime uniformément la confiance sur toute la plage. Faiblesse : gère mal les motifs non linéaires.
• Isotonic Regression — une méthode non paramétrique sans hypothèses sur la forme de distorsion. Construit une fonction de transformation monotone de forme arbitraire, gère mieux les motifs complexes non linéaires de surconfiance. Nécessite beaucoup plus d'exemples de validation — sinon risque de surapprentissage.
• Temperature Scaling — la méthode la plus populaire pour les LLM. Divise tous les logits par une seule constante apprise T (température). T > 1 — les probabilités se « brouillent », le modèle devient moins catégorique. T < 1 — la confiance augmente. Un paramètre, optimisé pour NLL sur validation. La mise en œuvre prend environ dix lignes de code.

Comment choisir la bonne méthode

Temperature Scaling — le choix par défaut pour la plupart des tâches avec LLM. Fonctionne uniquement avec les probabilités de sortie — pas besoin d'accès aux poids. Sélectionner T nécessite seulement quelques centaines d'exemples. Ne remanie pas la distribution de probabilité, l'éclaire simplement.

Isotonic Regression doit être envisagée lorsque la distorsion est non linéaire et l'échantillon de validation est grand — de plusieurs milliers d'exemples. Il peut capturer les motifs complexes que Temperature Scaling manquerait. Le risque de surapprentissage nécessite une division minutieuse train/val/test.

Platt Scaling occupe un juste milieu : légèrement plus flexible que Temperature Scaling et plus simple que Isotonic Regression. A du sens quand les données pour Isotonic sont insuffisantes mais plus de flexibilité est nécessaire que celle fournie par la température.

Une limitation clé des trois approches : un ensemble de validation séparé est requis qui n'a pas été utilisé dans l'évaluation du modèle. L'étalonnage sur le même ensemble est une erreur conduisant au surapprentissage de la fonction d'étalonnage.

Ce que cela signifie

Pour les équipes déployant des LLM en production, l'étalonnage est une étape obligatoire avant le déploiement dans tout scénario à enjeux élevés. Temperature Scaling nécessite un effort minimal et peut réduire considérablement le nombre de prédictions incorrectement confiantes — sans surapprentissage, sans accès aux poids, sans augmentation de latence notable. C'est l'un de ces rares cas où une petite amélioration technique impacte directement la confiance des utilisateurs dans le produit.