L'apprentissage hebbien sans backprop dégénère en k-means et perd sur tous les tableaux

L'expérience décrite par l'auteur sur Habr tient en une ligne : il a entraîné la couche cachée d'un réseau de neurones sans backprop, avec uniquement des règles hebbiennes locales, puis l'a comparée à la descente de gradient selon trois axes. Score : 0:3. Backprop n'a été battu ni en précision, ni avec un faible nombre d'exemples étiquetés, ni sur l'oubli lors d'un changement de tâche. La règle elle-même a fini par se réduire à un simple k-means.

La source est publiée sous forme d'annonce accompagnée d'un court résumé : les jeux de données précis et les tableaux de métriques restent donc dans l'article original. La logique de l'expérience et ses conclusions se comprennent toutefois sans eux.

Ce qui a été essayé, et pourquoi

L'apprentissage hebbien repose sur une vieille idée : le lien entre deux neurones se renforce lorsqu'ils sont actifs en même temps. La propriété essentielle d'une telle règle est qu'elle est locale. Le neurone n'a pas besoin du signal d'erreur global que backprop propage à travers tout le réseau. C'est séduisant pour le matériel neuromorphique et pour la plausibilité biologique. D'où une question qui revient périodiquement : peut-on obtenir de bonnes représentations sans gradients ?

L'auteur a posé le problème de façon pragmatique : remplacer l'entraînement de la couche cachée par des règles locales et observer dans quels cas un tel réseau l'emporte. Il a misé sur trois scénarios où backprop a des points faibles : le manque de labels, l'oubli catastrophique et la précision globale.

Là où tout se cassait

D'après l'auteur, les problèmes étaient assez nombreux pour faire l'objet d'un récit à part.

• Le réseau tuait ses propres neurones. C'est le mal classique de l'apprentissage compétitif : un neurone qui cesse de gagner ne reçoit plus de mises à jour et reste mort. La capacité de la couche se contracte, alors que le nombre de neurones reste formellement le même.
• L'évolution des règles se trompait elle-même. Quand la forme de la règle de mise à jour est cherchée par recherche évolutionnaire, la fonction de fitness devient l'objectif, et l'algorithme trouve des failles plutôt que des features utiles. La métrique progresse, pas la qualité de la représentation.
• Les erreurs de l'auteur lui-même. Il écrit sans détour qu'il s'est trompé, et c'est la partie la plus précieuse de l'analyse : les résultats négatifs sont rarement publiés dans ce domaine.

Pourquoi le k-means était inévitable

Le dénouement paraît logique. Si l'on conserve dans la règle hebbienne la compétition entre neurones (un seul l'emporte, comme dans un winner-take-all) et la normalisation des poids, la mise à jour se réduit à un déplacement du vecteur du gagnant vers l'entrée : w ← w + η(x − w). C'est la formule du k-means en ligne. Chaque neurone devient le centroïde d'un cluster d'entrées.

Une telle couche trouve honnêtement une structure dans les données sans labels, mais la structure des clusters n'a aucune raison de coïncider avec les frontières entre classes. Backprop optimise les features pour une tâche précise, le k-means pour la géométrie des entrées. D'où la défaite en précision. L'espoir que des features issues de clusters aident quand les labels sont peu nombreux ne s'est pas confirmé non plus. Ce schéma n'a pas non plus gagné sur l'oubli.

Ce qu'il faut en retenir en pratique

Pour ceux qui expérimentent des alternatives à backprop, cette histoire débouche sur des étapes concrètes.

• Comparez d'abord la nouvelle règle au k-means et à la PCA. Si le résultat est identique, il n'y a rien à inventer.
• Surveillez la proportion de neurones actifs pendant l'entraînement. Les unités mortes se voient tout de suite si on les compte.
• Dans une recherche évolutionnaire de règles, vérifiez ce qui a été trouvé sur des tâches qui n'ont pas participé à la sélection.
• Gardez une baseline solide avec backprop, sur les mêmes données et avec le même budget de calcul.

On n'en déduit pas que l'apprentissage local soit sans avenir. Mais une règle hebbienne simple sur une seule couche cachée reste, d'après cette expérience, une bonne implémentation du clustering, et rien de plus.