Un petit modèle financier apprend de ses erreurs : +3 pp sans professeur

Les organisations financières n'ont souvent pas le droit d'envoyer les données de leurs clients, leurs positions et leurs analyses internes à des API externes. Il leur reste donc les modèles ouverts, qu'elles peuvent exécuter sur leurs propres serveurs. Ces modèles sont généralement plus faibles que les systèmes fermés de pointe sur les calculs en plusieurs étapes, où il faut d'abord comprendre les conventions comptables, puis injecter les chiffres dans une formule.

Des chercheurs de l'Université de Californie à Berkeley (travail réalisé pendant un stage chez CTGT et accepté à la conférence ICAIF'26 à Milan) ont proposé la méthode Fin-SD. Elle a fait gagner 3,03 points de pourcentage de précision à GPT-OSS-20B sur le jeu difficile FinanceReasoning Hard, sans professeur externe ni solutions de référence.

Comment le modèle apprend de sa première erreur

La « distillation sur ses propres générations » classique fonctionne ainsi : l'élève résout lui-même la tâche, et le professeur évalue chacun de ses tokens. L'inconvénient : il faut un professeur externe performant. La variante OPSD s'en passe, mais exige une solution de référence complète.

Fin-SD demande encore moins. Quand le modèle se trompe, sa copie gelée reçoit l'énoncé, la réponse erronée de l'élève et la bonne réponse. Elle renvoie trois éléments :

• la citation de la première étape erronée ;
• une courte critique du type « votre logique diverge là où vous définissez la base des pertes de vacance locative ; calculez-la uniquement sur les loyers des appartements » ;
• le type d'erreur : conceptuelle ou arithmétique.

Les erreurs arithmétiques et les arrondis sont écartés : aucun gradient n'en est calculé. Ces erreurs se corrigent avec une calculatrice dans l'infrastructure d'exécution. Lors d'une vérification manuelle, le classifieur a traité correctement 48 exemples sur 50 (96 %). Dans la précision finale, ces tâches comptent quand même comme fausses.

La solution est ensuite tronquée juste avant l'erreur. L'élève et le « professeur » gelé voient le même préfixe correct, mais le professeur lit en plus l'indice. Le modèle rapproche sa distribution des tokens suivants de celle du professeur sur un segment de 100 tokens (la divergence KL inverse est minimisée). À la fin de chaque époque, la liste des échecs est reconstituée et le professeur est mis à jour avec les poids les plus récents de l'élève.

L'indice ne compte presque pas

Le résultat principal : le contenu de la critique s'est révélé presque sans importance.

• Si l'on remplace l'analyse par un gabarit du type « Votre erreur est conceptuelle », le gain par rapport au modèle de base est de +3,36 pp, contre +3,03 pour Fin-SD complet.
• Les indices de GPT-OSS-120B (de la même famille, nettement plus grand) n'ont pas produit d'effet sensiblement supérieur à ceux du modèle lui-même. Dans ce corpus, le petit modèle se trompe surtout dans le choix de la convention comptable, et le 20B, quand il dispose de la réponse connue, localise cet endroit avec une précision suffisante.
• Les auteurs concluent avec prudence que l'essentiel du gain vient du fait que le signal est appliqué précisément à l'endroit de l'erreur. Le texte de l'indice est secondaire.

Face à OPSD, Fin-SD atteint 72,19 % contre 70,42 %. À l'évaluation, il génère 9,5 % de tokens en moins. La part de réponses tenant dans le budget de tokens est elle aussi légèrement supérieure, même si les auteurs n'y voient qu'une tendance.

Données, vérification des effets secondaires et limites

Les auteurs ont constitué eux-mêmes le corpus d'entraînement. Ils sont partis de la bibliothèque de 3 133 fonctions financières de FinanceReasoning, ont évalué la difficulté de chacune sur une échelle de 8 points (évaluateur : GPT-OSS-120B) et ont conservé les plus ardues. Ensuite, le modèle DeepSeek-V4-Flash a vérifié s'il était possible de construire une tâche à réponse unique, ce qui a laissé 295 fonctions. À partir d'elles, GPT-5.5 a rédigé des scénarios dans lesquels les données d'entrée ne sont pas fournies directement. Il faut les déduire des conventions : loyer annuel, vacance, « argent réellement investi ». Ce n'est qu'après que l'on calcule une métrique financière comme le cash-on-cash return.

Le principal risque d'un affinage en banque est de dégrader un comportement déjà réglé. Les auteurs ont donc testé le modèle après Fin-SD sur deux benchmarks :

• MMLU-Pro (connaissances générales et raisonnement) : pas de baisse notable ;
• FinTrust, audit sur quatorze métriques de conformité en contexte financier : pas non plus de dégradation significative.

Quelques réserves s'imposent. Les expériences portent sur un seul modèle (GPT-OSS-20B) et sur un seul corpus spécifique, où les erreurs tiennent surtout au choix de la convention. Le jeu d'évaluation est petit : 238 tâches, si bien qu'un écart de 1 à 3 pp se situe près du bruit. L'auteur de la méthode lui-même présente la conclusion sur l'inutilité du contenu de l'indice comme une hypothèse.

Ce que cela change en pratique

Pour les équipes qui gardent leur modèle à l'intérieur du périmètre de la banque, la conclusion est simple et peu coûteuse. Vous avez les réponses aux tâches d'entraînement et le modèle lui-même ? Alors il est possible d'isoler la première erreur conceptuelle, de tronquer la solution à cet endroit et d'entraîner le modèle sur ce court segment. Ni professeur externe ni annotation manuelle fine ne sont nécessaires. Si le gain dépend réellement de l'endroit où le signal est appliqué, il est inutile d'acheter des indices coûteux à un grand modèle. Reste à vérifier si cela se reproduit sur d'autres modèles et d'autres domaines.