GPT-6 Astra a modifié 0,016 % des poids de Qwen et fait grimper la précision à 48,1 %

Lorsqu'un petit modèle de langage tourne en boucle, calcule mal ou ignore les instructions, la recette habituelle est bien connue : collecter des données, lancer un réentraînement, vérifier que rien d'autre n'a été cassé. Des chercheurs du MIT ont montré une autre approche. GPT-6 Astra a eu accès aux poids du modèle, a trouvé la zone liée à la défaillance et a réécrit une infime partie des paramètres. Dans l'expérience menée avec Qwen3.5-0.8B, la modification de seulement 0,016 % des poids a fait passer la précision sur MATH-500 de 7,9 % à 48,1 %.

Ce n'est ni un bouton magique ni un substitut à l'entraînement. Mais pour les équipes qui maintiennent leurs propres modèles, l'idée est très concrète : plutôt que de lancer une exécution coûteuse sur l'ensemble du jeu de données, on peut tenter de localiser un défaut interne précis et de le corriger de façon ciblée.

Comment un modèle en programme un autre

Les poids d'un réseau de neurones sont d'immenses tableaux de nombres. En général, un humain ne peut pas les examiner pour comprendre ce que le réseau a appris ni pourquoi il se comporte d'une certaine manière. Dans les expériences, Astra est venue à bout d'une partie de ces tâches : elle a déterminé le jeu pour lequel un petit réseau avait été entraîné, reconnu le type d'images d'un générateur et associé de petits modèles de langage aux langues sur lesquelles ils avaient été entraînés. Le tout sans les données d'entraînement d'origine et, parfois, sans même exécuter le modèle.

L'exemple le plus parlant concerne les jeux vidéo simples. Les chercheurs fournissaient à Astra les règles et le code, puis elle créait directement les poids des réseaux de jeu. Dans Breakout, un tel réseau a obtenu en moyenne 517 points contre 25 pour le modèle de référence, entraîné de manière classique sur plus de 100 millions de parties. Toutefois, dans deux autres jeux, les modèles ayant le plus long entraînement se sont révélés plus performants. Il ne s'agit donc pas encore de battre l'apprentissage classique, mais d'une nouvelle façon de traiter des tâches de petite taille et bien délimitées.

Dans l'expérience sur le go en 9×9, Astra pilotait un réseau d'environ 1,5 million de paramètres. Elle disposait de 50 itérations : à chacune, le réseau jouait jusqu'à 128 parties d'entraînement, et Astra analysait le résultat pour ajuster les poids. Le modèle obtenu a surpassé un réseau de taille comparable entraîné sur environ 20 millions de parties.

Ce qui s'est passé avec Qwen

Qwen3.5-0.8B souffrait d'un problème courant : le modèle pouvait entrer dans une boucle et répéter son raisonnement sans jamais aboutir à une réponse. Astra a reçu un environnement de travail sur le code, des tâches d'entraînement et 50 tentatives de correction. Le résultat a ensuite été vérifié sur d'autres exemples, qu'elle n'avait pas vus pendant le réglage.

Après la modification de 0,016 % des paramètres, la précision sur MATH-500 est passée de 7,9 % à 48,1 %, et le score de respect des consignes de 21 % à 62 %. La part des réponses atteignant la longueur maximale a diminué de 93 % à environ 33 %. C'est encore beaucoup : il est donc trop tôt pour considérer le problème comme résolu.

Le résultat négatif est lui aussi instructif. Sur Gemma 3 270M, qui souffrait à peine de ces boucles, Astra n'a obtenu aucune amélioration mesurable. Les auteurs supposent que Qwen possédait déjà les capacités mathématiques nécessaires, mais qu'une défaillance interne l'empêchait de les utiliser. Astra a levé ce « frein » sans insuffler de nouvelle compétence au modèle.

Que doivent faire les développeurs

Pour l'instant, la Weight-Space Programming doit être considérée comme un outil de recherche. Elle peut servir à détecter des défauts, à auditer la sécurité et à corriger de manière ciblée le comportement de petits modèles. Mais il est trop tôt pour transposer ces résultats aux grands LLM de production : les expériences sont limitées, il n'existe pas encore de test universel, et une partie des tâches a nécessité d'exécuter le modèle et de recueillir un retour sur les résultats.

La conclusion pratique est simple. Si une équipe exploite un petit modèle spécialisé, elle a intérêt à suivre ce domaine et à conserver des tests de comportement détaillés : ce sont eux qui permettent de savoir si la correction est meilleure qu'un réentraînement complet. En revanche, il ne faut pas modifier les poids d'un modèle en production sans évaluation indépendante, tests de régression et possibilité de retour en arrière. La réparation ciblée semble moins coûteuse que l'entraînement, mais le prix d'une erreur, lui, ne disparaît pas.