Les réseaux de neurones sont plus modulaires qu'il n'y paraît au niveau des neurones : trois niveaux de vérification

On considère que les réseaux de neurones se prêtent mal à une décomposition en parties : un même neurone participe à plusieurs fonctions distinctes, et la conclusion semble s'imposer d'elle-même. Ces réseaux n'auraient pas d'organisation modulaire. Les auteurs du preprint arXiv:2610.12842 ne sont pas d'accord. Ils introduisent une hiérarchie imbriquée de trois niveaux de modularité et montrent, sur des modèles de vision, des modèles de langage et des réseaux récurrents multitâches, que des réseaux dépourvus de modules au niveau des neurones présentent souvent des modules fonctionnels nets au niveau des sous-espaces.

Trois niveaux au lieu d'une seule question

L'idée centrale du travail : demander si un réseau est « modulaire » est une façon trop grossière de poser le problème. Si l'on exige que des calculs différents occupent des neurones distincts, sans chevauchement, la plupart des réseaux échouent au test. Mais c'est le plus strict de tous les critères possibles. Les auteurs en construisent trois, chacun plus souple que le précédent :

• Unit-level. Des calculs différents occupent des ensembles de neurones disjoints. C'est la conception classique du module.
• Orthogonal. Il existe une rotation de l'espace des activations après laquelle apparaissent des sous-espaces fonctionnellement indépendants.
• Linear. Une application linéaire contrainte sépare les calculs importants pour la tâche en sous-espaces indépendants.
• Vérification. Pour chaque niveau, les auteurs ont conçu une méthode d'apprentissage de la décomposition. Le résultat est évalué de façon causale, par ablation sélective : on supprime un sous-espace et on observe quelle fonction en pâtit.

Les niveaux sont imbriqués. La modularité au niveau des neurones implique la modularité orthogonale, qui implique à son tour la modularité linéaire. La réciproque est fausse, et c'est précisément dans cet écart que les auteurs observent l'effet.

Ce qu'ils ont trouvé en pratique

Dans les modèles de vision, les sous-espaces de contenu et de style se séparent à l'ablation, bien qu'ils utilisent des populations de neurones qui se recouvrent. Dans les modèles de langage, il se passe la même chose pour la syntaxe et la sémantique : supprimer un sous-espace n'endommage pas l'autre.

Le travail propose aussi une comparaison avec les neurosciences. Les sous-espaces appris coïncident de manière différente avec les données du cerveau. Les sous-espaces de contenu prédisent mieux l'activité des aires visuelles supérieures du cortex, les sous-espaces de style celle des aires inférieures. Les sous-espaces sémantiques prédisent plus précisément que les sous-espaces syntaxiques l'activité du cortex du langage. C'est un argument indirect en faveur de l'idée que la séparation trouvée reflète la structure de la tâche elle-même, et non un artefact de la méthode.

Le troisième cas concerne des RNN entraînés simultanément sur plusieurs tâches cognitives. On les jugeait jusqu'ici non modulaires. La décomposition proposée a fait apparaître entre les tâches de nettes doubles dissociations : supprimer un sous-espace casse une tâche et laisse l'autre intacte, tandis que supprimer l'autre sous-espace produit l'effet inverse. En neurosciences, la double dissociation est considérée comme une preuve solide de séparation des fonctions.

Ce que cela apporte à l'interprétabilité

La conclusion pratique pour ceux qui travaillent sur l'interprétabilité mécaniste : inutile de chercher un neurone responsable d'une propriété donnée. On peut intervenir au niveau du sous-espace. Une fois la décomposition trouvée, il est possible de désactiver ou de modifier un calcul de façon ciblée, même si aucun neurone pris isolément n'est spécialisé. Pour la sécurité et le contrôle du comportement des modèles, c'est un point d'application plus réaliste que la recherche de « neurones de concepts ».

Il faut toutefois tenir compte de plusieurs limites. Il s'agit d'un preprint non relu par des pairs, et son résumé ne mentionne ni les noms des modèles testés ni de résultats chiffrés : l'ampleur de l'effet ne peut donc pas être évaluée. On ignore aussi dans quelle mesure les sous-espaces trouvés restent stables sur les grands LLM actuels, et à quel point ils dépendent des fonctions que les chercheurs ont définies à l'avance. La méthode exige un étiquetage des calculs, par exemple contenu contre style, et ne découvre pas les modules par elle-même.

Pour les praticiens, le message est le suivant : lors de l'analyse d'un modèle, mieux vaut vérifier les trois niveaux plutôt que de s'arrêter à l'absence de modularité neuronale. Pour les détails d'implémentation, il faut consulter le texte complet du preprint.