Réseaux de neurones et maths : pourquoi les LLM se trompent dans les calculs

Un réseau de neurones peut se tromper même en mathématiques simples, en livrant avec assurance un résultat faux pour la multiplication de nombres à six chiffres : les chiffres des extrémités sont justes, l'erreur se situe au milieu. Ce n'est ni un bug ni un défaut propre à un modèle donné. Un transformeur prédit des tokens d'après des statistiques ; il n'exécute pas l'algorithme de la multiplication posée.

Token contre algorithme : quelle différence

La multiplication posée est une procédure avec des rangs, des retenues, des sommes intermédiaires et un ordre strict des opérations. Un processeur l'exécute. Un écolier l'exécute. Un transformeur, en une seule passe, non : il génère un texte qui ressemble à la bonne réponse, en s'appuyant sur les statistiques de ses données d'entraînement.

L'arithmétique courte fonctionne comme de la mémoire, pas comme du calcul :

• La table de multiplication apparaît des millions de fois dans les données d'entraînement
• Le modèle ne calcule pas « 7 × 8 = 56 » : il s'en souvient
• Avec des nombres à deux ou trois chiffres, les motifs familiers restent assez nombreux
• Avec six chiffres, il n'y a presque plus d'exemples familiers et le modèle se met à « poursuivre de façon plausible »
• L'assurance avec laquelle la réponse est donnée n'a aucun lien avec l'exactitude du résultat

Pourquoi l'erreur se situe-t-elle justement au milieu du nombre ?

Les chiffres extrêmes du résultat se déduisent des premiers et derniers chiffres des facteurs, un motif que le modèle apprend. Les chiffres centraux exigent une véritable chaîne de retenues, que le transformeur ne construit pas en une seule passe autorégressive.

La signature typique : l'extrémité droite (unités, dizaines) et l'extrémité gauche (rangs les plus élevés) sont souvent justes, tandis que les chiffres du milieu sont inventés. Le modèle n'a en outre aucun signal interne du type « je ne suis pas sûr » : le prédicteur de tokens poursuit simplement la séquence de la manière la plus plausible.

Comment l'industrie résout le problème

La solution n'est pas venue de l'architecture, mais de l'extérieur : les outils. Code Interpreter dans ChatGPT, blocs Python dans Claude, appel d'une calculatrice via function calling. Le modèle délègue le calcul à celui qui sait calculer.

«

Il le fait, et plutôt bien, simplement pas là où on le croit » — le progrès ne consiste pas à apprendre au LLM à calculer seul, mais à lui apprendre à appeler le bon outil.

Le chain-of-thought (l'écriture explicite des étapes intermédiaires) aide en partie : la précision sur les nombres à plusieurs chiffres augmente. Mais chaque token de la chaîne est lui-même une prédiction, si bien que cette technique n'offre pas une fiabilité de 100 %.

En parallèle, des recherches portent sur un réglage fin spécialisé pour les mathématiques : les modèles entraînés surtout sur des textes scientifiques comprennent mieux les problèmes. Mais ils ne remplacent pas non plus un calculateur : la valeur de ces modèles tient à la bonne formulation du problème pour l'outil, pas à un calcul autonome.

Ce que cela signifie

Attendre d'un LLM le comportement d'une calculatrice relève du malentendu architectural. Le bon schéma : le modèle comprend la tâche, construit la logique, délègue les nombres à un outil et interprète le résultat. Confier l'économie unitaire à un chat sans outils revient à tester non pas le modèle, mais sa chance.

Questions fréquentes

Pourquoi le modèle ne prévient-il pas qu'il ne sait pas calculer ?

Un modèle de langage n'a pas de signal interne d'incertitude lorsqu'il génère un nombre. Il émet le token suivant de plus forte probabilité, avec la même assurance que le résultat soit juste ou faux. C'est une propriété fondamentale de la génération autorégressive, pas une erreur de code.

Le chain-of-thought aide-t-il pour l'arithmétique complexe ?

Oui, mais de façon limitée. Écrire les retenues pas à pas améliore la précision, car le modèle « voit » les résultats intermédiaires comme contexte de la prédiction suivante. Cependant, chaque étape reste une prédiction et les erreurs s'accumulent : les calculs critiques exigent un outil externe.

Pourquoi un réseau de neurones se trompe-t-il en mathématiques ?

Un transformeur prédit des tokens d'après les statistiques de ses données d'entraînement ; il n'exécute pas d'algorithme mathématique comme le font un processeur ou un humain.