Les réseaux de Kolmogorov-Arnold égalent les MLP avec 40% d'échantillons en moins

Les chercheurs à l'origine du préprint arXiv 2610.10627 ont mesuré la quantité de données dont les réseaux de Kolmogorov-Arnold (KAN) ont besoin en apprentissage par renforcement. Leur réponse : 40% de moins que le perceptron multicouche (MLP) pour une qualité comparable. Au cours de l'entraînement, le gain relatif des KAN a atteint jusqu'à 50%. Les expériences ont porté sur le jeu de données Feynman et le benchmark Gymnasium, et le bruit sur les récompenses n'a pas fait disparaître l'avantage.

Pourquoi les échantillons sont la monnaie principale du RL

L'apprentissage profond par renforcement surpasse depuis longtemps les méthodes de contrôle classiques. Mais dans les systèmes réels, il se heurte au coût de l'expérience. Chaque échantillon représente des minutes ou des heures de fonctionnement d'un robot, de l'usure mécanique, un banc d'essai immobilisé, un risque de casse. Les simulateurs coûtent moins cher, mais l'écart entre simulation et réalité oblige malgré tout à combler le manque avec des données réelles. Une méthode qui atteint le résultat voulu avec moins d'interactions avec l'environnement a donc plus de valeur qu'un gain sur la récompense maximale.

Les KAN ont été proposés en 2024. Leur principe repose sur le théorème de Kolmogorov-Arnold : au lieu de fonctions d'activation fixes dans les nœuds, le réseau apprend des fonctions à une variable sur les arêtes, généralement sous forme de splines. Jusqu'ici, on leur attribuait deux atouts : moins de paramètres pour une même tâche et une meilleure interprétabilité, en particulier lorsqu'il faut retrouver une dépendance physique. Ce nouveau travail ajoute un troisième axe : la consommation de données.

Ce qui a été mesuré, et comment

Les auteurs ont comparé les KAN et les MLP à partir de leurs courbes d'apprentissage. Le premier terrain d'essai est Feynman, un ensemble de tâches de reconstruction de relations physiques. Le second est Gymnasium, un ensemble standard d'environnements pour le RL. Ils ont aussi testé séparément la robustesse au bruit : les récompenses ont été altérées à différents niveaux, pour vérifier si l'écart persistait.

Résultats clés de l'abstract :

• une qualité comparable est atteinte avec 40% d'échantillons en moins ;
• l'amélioration relative en cours d'entraînement va jusqu'à 50% ;
• le gain se maintient à différents niveaux de bruit sur les récompenses ;
• benchmarks : Feynman et Gymnasium ;
• le code est ouvert, avec le dépôt DerKevinRiehl/neurips26_kan_training sur GitHub (le nom laisse penser à une soumission à NeurIPS 2026).

Ce qui reste flou

L'abstract ne précise pas quels algorithmes de RL ni quels environnements figurent dans l'échantillon, ce qui rend difficile d'évaluer dans quelle mesure le résultat se transpose à d'autres tâches. La formule « jusqu'à 50% » décrit un pic sur certaines phases de l'entraînement, et non un gain moyen. Il s'agit d'un préprint en première version, qui n'a pas été relu par des pairs.

Il y a aussi une nuance de calcul. Les KAN à splines sur les arêtes sont en général plus coûteux que les MLP en temps par pas d'entraînement. Économiser des échantillons ne revient pas à économiser des heures de GPU, et il faudra regarder comment les auteurs en tiennent compte dans l'article. Enfin, les tâches de Feynman reposent sur des dépendances physiques lisses, c'est-à-dire un terrain où les KAN sont historiquement forts. Pour l'apprentissage à partir de pixels ou pour des dynamiques fortement discontinues, il faudra vérifier séparément que le gain se transpose.

Que faire concrètement pour les équipes

Les équipes pour lesquelles l'expérience coûte cher, par exemple en robotique, en pilotage d'équipements ou dans les procédés industriels, ont intérêt à tester un KAN à la place du MLP dans la politique ou le critique, sur leur propre tâche. Le code est ouvert : la comparaison prendra des jours, pas des mois.

Le calcul doit se faire en argent : coût d'un échantillon contre coût des calculs d'entraînement. Si un échantillon issu d'un banc réel coûte des ordres de grandeur de plus qu'une heure de GPU, même un KAN lent sera rentabilisé. Si l'environnement est simulé quasiment gratuitement, l'avantage devient douteux. Un bonus supplémentaire est l'interprétabilité : on peut visualiser les splines apprises et vérifier leur cohérence avec la physique du système, ce qui est utile pour la certification des algorithmes de contrôle. Ce résultat ne concerne pas directement les LLM : il s'agit de modèles de contrôle compacts.