Cohere apprend à un modèle 7B à évaluer sa confiance en deux temps : l'erreur de calibration chute de 52,5 %

Cohere a publié les détails de CALIBER, une méthode qui apprend à un modèle de raisonnement à évaluer ses propres chances à deux reprises : avant d'amorcer sa réflexion, puis une fois la réponse formulée. Sur le benchmark mathématique BigMathDigits, un modèle 7B a réduit son erreur de calibration attendue (ECE) de 0,059 pour la meilleure référence à estimation unique à 0,028, soit une baisse de 52,5 %. Ces travaux sont menés par Beyza Ermis, research scientist chez Cohere.

Un score unique masque deux réalités distinctes

Avant d'entamer son raisonnement, le modèle n'a sous les yeux que l'énoncé. Il peut identifier le domaine abordé et estimer si la tâche semble à sa portée. Sa confiance répond alors à la question : « quelle est la probabilité que je puisse résoudre ce problème ? ». Après la phase de calcul et d'analyse, il dispose d'un objet concret à vérifier — sa propre démonstration — et l'interrogation évolue : « quelle est la probabilité que cette réponse soit correcte ? ».

Cohere cite l'exemple de deux dés dont la somme doit atteindre au moins 10. Le modèle débute avec une confiance de 25 %, énumère les combinaisons (trois façons d'obtenir 10, deux pour 11, une pour 12), calcule 6 possibilités sur 36, soit 1/6, et termine avec une confiance de 88 %. L'inverse est tout aussi envisageable : une tâche peut sembler simple au premier abord, mais une hypothèse erronée identifiée en cours de route fait chuter la confiance finale. Les modèles de raisonnement classiques n'offrent pas cette garantie : générer une chaîne de pensée détaillée ne signifie pas qu'un modèle sache exprimer honnêtement ses doutes.

Les objectifs d'entraînement diffèrent pour chaque étape. Pour la confiance initiale, le modèle résout le même problème à plusieurs reprises : s'il réussit sept tentatives sur dix, la cible fixée est de 70 %. Pour la confiance finale, l'objectif devient binaire selon que la réponse générée est exacte ou non. Si trois essais sur quatre aboutissent, la cible initiale s'élève à 75 %, tandis que l'essai manqué reçoit une cible finale de 0. Les récompenses de calibration s'ajoutent à la récompense liée à la justesse du résultat. Reconnaître son incertitude sur une réponse fausse améliore le score de calibration, mais ne rapporte aucun point de résolution.

Les enseignements des expérimentations

Des modèles de 7B et 30B paramètres ont été entraînés sur 30 000 problèmes mathématiques, puis évalués sur un ensemble de test de 1000 tâches inédites, complété par trois benchmarks de questions-réponses. Toutes les méthodes ont été comparées selon un protocole d'entraînement identique, les baselines estampillées « lite » représentant des versions simplifiées d'approches antérieures. Pour CALIBER, les métriques sont calculées sur la base de la confiance finale.

• BigMathDigits, 7B : ECE de 0,028 contre 0,059 pour la meilleure référence (−52,5 %).
• AUROC de 0,806 et score de Brier de 0,130, soit les meilleurs résultats du panel.
• Généralisation sans fine-tuning ni sélection de checkpoints dédiés : ECE réduite de 26,8 % sur GPQA, 32,2 % sur TriviaQA et 36,2 % sur SimpleQA.
• BigMathDigits, 30B : ECE de 0,022 contre 0,023 pour CoCA-lite, mais avec un AUROC de 0,797 face à 0,508.

Le résultat du modèle 30B illustre la nécessité de coupler ces deux métriques. En matière d'ECE, CoCA-lite fait jeu égal ; en revanche, son estimation de confiance peine à distinguer le vrai du faux, affichant un AUROC de 0,508 équivalent à un tirage à pile ou face. Un modèle qui annoncerait systématiquement « 70 % » pour une précision globale de 70 % serait parfaitement calibré, tout en restant incapable d'indiquer quelles réponses méritent une vérification. Cohere souligne toutefois que d'autres baselines obtiennent un AUROC légèrement supérieur à celui de CALIBER : l'avantage dépend donc de la propriété ciblée.

L'évolution de la confiance après raisonnement a également été disséquée. Sur BigMathDigits avec le modèle 7B, l'estimation moyenne grimpe de 78,5 % à 83,5 % pour les réponses correctes, et recule de 62,6 % à 54,5 % pour les erreurs. Sur d'autres jeux de données, la confiance diminue parfois dans les deux cas, mais de manière nettement plus marquée sur les réponses inexactes. Cette variation brute ne constitue pas un verdict en soi : deux réponses affichant in fine 70 % traduisent exactement la même probabilité, que le score ait progressé ou régressé.

Cas d'usage pratiques et zones d'ombre

Pour les équipes produit, l'intérêt réside principalement dans le routage des requêtes. Une faible confiance initiale peut déclencher l'envoi de la tâche vers un modèle plus robuste ou vers un opérateur humain avant même de consommer des tokens de raisonnement. Une faible confiance finale permet d'identifier précisément les réponses à soumettre à une revue manuelle lorsque le temps ne permet d'en vérifier qu'une poignée sur une centaine. Dans ce contexte, un AUROC solide prime sur une belle valeur d'ECE.

Certaines limites restent à souligner. Ces travaux mesurent uniquement la confiance avant et après une seule passe de calcul. Cohere n'a pas testé l'utilisation de ces ajustements pour orchestrer des actions comme « vérifier », « rechercher des informations supplémentaires » ou « s'abstenir ». De plus, l'entraînement a porté presque exclusivement sur les mathématiques, et le transfert vers des tâches de questions-réponses n'a été démontré que pour le modèle 7B et uniquement sur l'ECE. Avant d'intégrer de tels signaux dans des architectures d'agents, il conviendra de les valider sur des données propriétaires et d'éprouver leur calibration sur la distribution réelle des tâches rencontrées.