Une LLM modifie les poids de petits réseaux et corrige les boucles de Qwen, mais on est encore loin de remplacer le gradient

Un post sur deux dans les fils d’actualité résume actuellement l’étude sur le Weight Space Programming : une LLM aurait appris à lire les poids d’un réseau neuronal et à les programmer directement, sans descente de gradient. Cela ressemble à la fin de l’apprentissage tel que nous le connaissons. Mais un examen détaillé des expériences donne une image plus modeste. L’auteur de l’analyse publiée sur la chaîne Dealer.AI le formule ainsi : la promesse devance encore largement les preuves.

Ce qui a réellement été démontré

La LLM reçoit les poids bruts d’un petit réseau et détermine à partir d’eux ce que celui-ci fait : jouer à un jeu, dessiner une forme par diffusion, s’exprimer dans une langue donnée ou contenir une induction head. Le modèle propose ensuite des modifications ciblées des poids. Cette méthode a permis d’éliminer les boucles dans Qwen3.5-0.8B et d’améliorer une politique défaillante dans un simulateur. Des gains sur MATH et IFEval sont également annoncés.

Imaginez un mécanicien qui connaît les pannes typiques. Vous lui apportez une voiture, il écoute le moteur, soupçonne une pièce précise, la remplace puis part faire un essai. Si la voiture roule, tant mieux. Ici, c’est la même chose : la LLM propose une modification, puis une passe avant du modèle sert d’oracle pour indiquer si le résultat s’est amélioré. C’est du generate-and-test, autrement dit une bonne heuristique assortie d’une vérification, pas une illumination.

En substance, la LLM joue ici le rôle du chercheur humain dans une métaheuristique : à la place d’un ingénieur qui ajuste manuellement les paramètres, le modèle tient lieu d’hyperheuristique. Il n’y a ni recherche exhaustive ni garantie de résultat.

Pourquoi il est trop tôt pour parler d’un nouveau paradigme

L’étude présente six faiblesses notables.

Premièrement : l’échec sur Gemma 3 270M. La méthode élimine un obstacle qui masque une capacité existante du modèle, mais elle n’en ajoute pas de nouvelle. Or c’est précisément ce que fait la descente de gradient.

Deuxièmement : le cas Qwen consiste à corriger un bug documenté, et non à prouver une compréhension générale des poids.

Troisièmement : Breakout a été résolu en 517 itérations, tandis que PPO y parvient en 15–25. La comparaison est inéquitable : les budgets diffèrent, l’exploitation d’un environnement particulier est possible et aucune tâche de validation n’est utilisée.

Quatrièmement : aucune capacité de mise à l’échelle n’est visible. Les tests ont porté sur de petits réseaux, les modifications ont été réalisées en one-shot et il n’existe aucune boucle « évaluation → sélection → convergence ».

Cinquièmement : les effets secondaires n’ont pas été vérifiés. MATH et IFEval se sont améliorés, mais on ignore ce qui a pu être discrètement détérioré.

Sixièmement : la reproductibilité est faible. Tous les éléments clés ont été réalisés avec le modèle propriétaire GPT-6 Astra, et il n’est pas difficile de se rappeler des « découvertes » mathématiques retentissantes dans lesquelles des imprécisions ont ensuite été relevées.

Pourquoi cela fonctionne malgré tout

Selon l’auteur de l’analyse, le résultat ne vient pas d’une « compréhension » des poids, mais d’une combinaison de conditions : signatures de faible dimension des petits réseaux, motifs connus issus du préentraînement, redondance des poids, localisation des bugs, vérification par passe avant et tâches simples régies par une règle courte. Retirez l’un de ces maillons et la magie s’effondre, comme cela s’est produit avec Gemma. La LLM manipule des proxys sémantiques, et non la fonctionnalité réelle. Repérer un goulot d’étranglement connu lorsqu’un mécanisme de vérification est disponible n’équivaut pas à comprendre et programmer les poids.

Comment l’utiliser en pratique

Les développeurs peuvent envisager cette approche comme un outil d’audit, d’interprétabilité et de débogage de petits modèles, notamment lorsque le gradient ne dispose pas de fonction objectif. S’il faut identifier et éliminer un défaut connu, comme une boucle, l’idée peut faire gagner du temps.

Les équipes produit ne devraient pas inscrire dans leur feuille de route le remplacement du fine-tuning : la méthode n’est pas encore un optimiseur universel.

Les fondateurs devraient se méfier des présentations du type « notre LLM écrit les poids ». Le rôle le plus plausible d’une telle approche est celui d’un a priori sémantique avant un fine-tuning par gradient, et non d’une « descente sémantique à la place du gradient ».

Cette piste mérite d’être suivie en tant qu’axe de recherche. Mais toute affirmation dans ce domaine doit être vérifiée sur des tâches de validation et au regard des effets secondaires ; sinon, on risque d’obtenir une belle métrique et un modèle cassé.