Apple ML Research a proposé MemoryLLM — une « mémoire » interprétable pour les transformers

Apple ML Research a publié un article intitulé Memory LLM, qui décrit une méthode d'analyse des blocs de propagation directe (feed-forward network, FFN) dans les modèles de langage basés sur les transformers : le FFN y est considéré comme une « mémoire neuronale de récupération sans contexte », et l'article étudie comment les tokens d'entrée accèdent aux cellules de cette mémoire et à quel point elle est importante pour différentes tâches.

Pourquoi le FFN est appelé la « mémoire » du modèle

Les grands modèles de langage sont construits sur l'architecture transformer. Chaque couche comprend deux blocs clés : le mécanisme d'auto-attention (self-attention), qui compare les tokens entre eux, et le bloc de propagation directe (feed-forward network, FFN), dont le rôle est longtemps resté flou. Les auteurs de Memory LLM proposent de considérer le FFN comme une base de données neuronale : les paramètres du réseau stockent les connaissances, tandis que les tokens d'entrée « interrogent » l'information nécessaire selon le principe « clé-valeur ».

D'où le terme : « mémoire neuronale de récupération orientée token et sans contexte » : le FFN traite chaque token indépendamment de son environnement, sans utiliser d'informations sur les mots voisins. Une interprétation similaire du FFN avait déjà été évoquée dans des travaux académiques, mais Memory LLM la transforme en un outil analytique concret.

Ce qu'étudie précisément Memory LLM

L'idée centrale est le découplage (decoupling) : les auteurs séparent le FFN du self-attention afin d'étudier les deux composants isolément. Dans un transformer standard, ils fonctionnent en tandem, ce qui rend difficile la distinction de leurs contributions respectives. Dans le cadre de l'approche proposée, l'étude porte sur :

• la manière dont des tokens d'entrée précis accèdent à des « cellules » précises à l'intérieur des paramètres du FFN ;
• l'importance de la mémoire du FFN pour différentes tâches en aval (downstream) — classification, génération, réponse aux questions ;
• si le comportement du FFN se prête à une description interprétable, ou s'il reste une « boîte noire ».

Le découplage permet de poser des questions plus précises : où exactement, dans les paramètres, un fait précis est stocké, comment le modèle accède aux règles grammaticales ou aux connaissances sur le monde, et si la « topographie de la mémoire » change en fonction de la tâche.

Pourquoi c'est utile aux praticiens

L'interprétabilité est l'un des problèmes centraux non résolus de l'IA moderne. Les modèles de langage affichent des résultats impressionnants, mais la mécanique de leurs décisions n'est pas transparente. Cela crée des risques lors de leur déploiement dans des domaines sensibles : médecine, droit, finance. Si le FFN se prête à être décrit comme une mémoire pilotable, cela ouvre plusieurs pistes pratiques :

• l'édition ciblée des connaissances — supprimer des faits obsolètes ou corriger des erreurs sans réentraîner entièrement le modèle ;
• un fine-tuning plus efficace — en sachant quels paramètres correspondent à quelles connaissances précises, on peut ne réentraîner que les parties nécessaires du réseau ;
• la vérification du comportement — s'assurer que le modèle s'appuie sur des données correctes, et non sur des artefacts du jeu d'entraînement.

Ce que cela signifie

Memory LLM s'inscrit dans la tendance à l'interprétabilité mécanistique (mechanistic interpretability), portée par Anthropic, DeepMind et de grands groupes académiques. Si le découplage entre le FFN et le self-attention se révèle reproductible et applicable en pratique, il pourrait intégrer la boîte à outils d'analyse des modèles de langage.

Qu'est-ce que Memory LLM ?

Memory LLM est un article qui décrit une méthode d'analyse des blocs de propagation directe (FFN) dans les modèles de langage basés sur les transformers : le FFN y est considéré comme une « mémoire neuronale de récupération sans contexte », dont les cellules sont sollicitées par les tokens d'entrée.

En quoi consiste le découplage entre FFN et self-attention ?

Le découplage consiste à séparer le bloc FFN du mécanisme de self-attention afin d'étudier les deux composants isolément. Dans un transformer standard, ces blocs fonctionnent en tandem, ce qui complique la distinction de leurs contributions respectives ; Memory LLM étudie le FFN découplé comme une mémoire orientée token, indépendamment du self-attention.

Quelles pistes pratiques cette approche ouvre-t-elle ?

Si le comportement du FFN se prête à être interprété comme une mémoire pilotable, cela ouvre la voie à une édition ciblée des connaissances sans réentraîner entièrement le modèle, à un fine-tuning plus efficace de parties précises du réseau, ainsi qu'à la vérification que le modèle s'appuie sur des données correctes, et non sur des artefacts du jeu d'entraînement.