GPT-6 Astra a corrigé 0,016 % des poids de Qwen et fait passer son score GSM8K de 13,8 % à 67,1 %

Le problème est bien connu : vous lancez un petit modèle sur une tâche de raisonnement, mais il tourne en rond, répète sans cesse le même passage et finit par atteindre la limite de tokens sans jamais fournir de réponse. Habituellement, on tente d’y remédier avec des prompts, des pénalités de répétition ou un entraînement supplémentaire. Des chercheurs du MIT CSAIL ont essayé une autre approche : ils ont confié la réparation à un agent IA et l’ont autorisé à modifier directement les poids.

Ce qu’ils ont fait exactement

GPT-6 Astra a obtenu l’accès aux poids de Qwen3.5-0.8B via Python, avec un budget maximal de 50 exécutions de test. La contrainte était stricte : aucun gradient, aucune rétropropagation et aucun optimiseur. Seulement de l’analyse et la modification directe des valeurs numériques du modèle.

L’agent a commencé par observer son comportement. Il est apparu que, dans la majorité des cas, le modèle ne commettait pas d’erreur de logique : il était simplement incapable de s’arrêter. Ainsi, 93 % des réponses atteignaient la limite de tokens. Autrement dit, le modèle possédait les capacités nécessaires pour résoudre les problèmes, mais son mécanisme d’arrêt du raisonnement était défaillant.

Astra a ensuite localisé la cause dans les blocs MLP des couches 15 et 19, identifié dans l’espace des poids une direction associée aux boucles, puis corrigé 131 072 paramètres. Cela représente environ 0,016 % des 800 millions de paramètres.

Les résultats

Les chiffres sont impressionnants :

• MATH-500 : de 7,9 % à 48,1 %
• GSM8K : de 13,8 % à 67,1 %
• part des réponses ayant atteint la limite de tokens : de 93 % à 33,1 %

En substance, le modèle n’a pas « appris les mathématiques » : un obstacle a été supprimé. On peut le comparer à une voiture dont le moteur fonctionne, mais dont la pédale d’accélérateur reste bloquée. Après la réparation, elle n’est pas devenue plus puissante ; elle s’est simplement mise à rouler correctement.

Les auteurs appellent cette approche Weight-Space Programming : le comportement du modèle est modifié comme du code, de manière ciblée et à un emplacement précis, au lieu de recourir à un entraînement diffus touchant l’ensemble des paramètres.

Limites

Commençons par les éléments à garder à l’esprit. Il ne s’agit que d’un billet de blog et d’un seul petit modèle. Les performances initiales de Qwen3.5-0.8B sont très faibles — 7,9 % sur MATH-500 — et une part importante de la progression s’explique par le fait que le modèle d’origine était littéralement défaillant en mode raisonnement. Il est plus facile de remettre un tel modèle à un niveau convenable que d’améliorer un modèle déjà performant.

Une confirmation directe existe également : sur Gemma 3 270M, qui ne souffrait pas du problème de boucles, la méthode n’a presque rien apporté. Il ne s’agit donc pas d’un « accélérateur de mathématiques » universel, mais d’une façon de traiter un défaut précis lorsqu’il est présent dans le modèle.

On ignore également dans quelle mesure le résultat peut être reproduit sans accès à GPT-6 Astra. D’après la description, l’agent a réalisé l’essentiel du travail analytique, mais cet outil est coûteux et fermé. Il n’existe encore aucune validation indépendante.

Qu’en faire

Pour les développeurs qui exécutent de petits modèles open source en local ou en production, plusieurs enseignements pratiques se dégagent :

• Avant tout entraînement supplémentaire, mesurez la part des réponses qui atteignent la limite de tokens. Si elle est énorme, vous êtes peut-être confronté non pas à un déficit de connaissances, mais à un problème d’arrêt.
• Le diagnostic est plus important que le traitement : déterminer quelle couche et quelle direction sont responsables du défaut représente déjà la moitié du travail.
• La modification chirurgicale des poids coûte moins cher que le fine-tuning et ne nécessite aucun jeu de données, mais elle bouleverse le pipeline habituel de gestion des versions des modèles. Ces correctifs devront être documentés et soumis à des tests de régression.
• Pour les produits, c’est un signal : d’ici un an ou deux, « corriger le comportement d’un modèle » pourrait devenir une tâche confiée à un agent plutôt qu’à une équipe d’ingénieurs ML.

La principale conclusion est que l’interprétabilité devient un outil pratique. Si une IA est réellement capable d’identifier le mécanisme précis d’une défaillance et de le corriger dans les poids, il ne s’agit plus d’un exercice académique, mais d’une nouvelle méthode de maintenance des modèles. Pour l’instant, il reste toutefois à reproduire ces résultats sur d’autres modèles et sur des benchmarks indépendants.