Autoencodeurs parcimonieux : les interactions par paires portent la rank fidelity à 0,7790

Les autoencodeurs parcimonieux (SAE) sont depuis longtemps l'outil de base de l'interprétabilité mécanistique : ils décomposent les activations d'un modèle en features parcimonieux, décodés de façon linéaire. Un nouvel article, repéré dans les Daily Papers de Hugging Face, vérifie si les effets comportementaux de ces features s'additionnent eux aussi de manière linéaire. La réponse : en partie. Les auteurs introduisent la métrique SAE Additivity Residuals (SAR) et montrent, sur 18 combinaisons de modèles et de comportements, que les coordonnées des SAE sont plus additives qu'une base aléatoire. Les interactions par paires restent néanmoins nécessaires : dans l'expérience combinée de steering, la rank fidelity passe de 0,5874 à 0,7790, et l'erreur d'ordonnancement baisse de 0,1444 à 0,0606.

Décomposition linéaire, conséquences non linéaires

La décomposition d'un SAE est additive par construction : l'activation est égale à la somme des contributions des features. Mais entre l'activation et le comportement se trouvent les couches suivantes du modèle, et celles-ci sont non linéaires. Si l'on active deux features en même temps, l'effet sur la sortie n'est pas tenu de égaler la somme des effets de chacun pris isolément. L'enjeu est pratique. Lorsqu'un chercheur explique un comportement par un ensemble de features, ou pilote un modèle en injectant plusieurs features à la fois, il compte implicitement sur l'addition. Sans vérification, cette hypothèse reste une hypothèse.

Ce que mesure exactement le SAR

Le SAR évalue la part de la variation comportementale qui reste inexpliquée au-delà d'un ordre d'interaction choisi. L'ordre 1 correspond à un modèle purement additif, l'ordre 2 ajoute les termes de paires, et ainsi de suite. Avec un échantillonnage indépendant des sous-ensembles de features, le SAR populationnel est exactement égal à l'énergie normalisée des interactions d'ordre supérieur. Il borne aussi l'erreur d'ordonnancement des coalitions, c'est-à-dire l'erreur dans le classement des ensembles de features selon la force de leur effet, pour la meilleure approximation d'ordre bas.

Pour distinguer la contribution du SAE lui-même de celle des calculs sous-jacents du modèle, les auteurs comparent les coordonnées apprises à des rotations aléatoires du même sous-espace, qui conservent la somme. Si l'additivité ne dépendait que des calculs du modèle, il n'y aurait aucune différence. Il y en a une.

Les résultats en chiffres

• Dans les 18 configurations (modèle plus comportement), les coordonnées apprises du SAE présentent un résidu de premier ordre plus faible que les coordonnées tirées au hasard par rotation.
• Les termes de paires améliorent la qualité de l'ordonnancement des coalitions sur données de validation dans chacune des configurations.
• Les termes de paires font mieux que des modèles de même nombre de paramètres, construits sur des termes de troisième ordre choisis au hasard. Le gain vient bien de la structure des paires, et non du nombre de paramètres.
• Dans l'expérience combinée de steering, la rank fidelity passe de 0,5874 à 0,7790.
• Dans la même expérience, l'erreur d'ordonnancement baisse de 0,1444 à 0,0606, soit plus de moitié.

Ce que les praticiens doivent en retenir

La conclusion pour ceux qui travaillent avec des SAE est double. Premièrement, les descriptions additives du comportement à partir des features de SAE sont nettement mieux justifiées que dans une base aléatoire. Pour des estimations rapides et une analyse préliminaire, un modèle linéaire des effets peut suffire. Deuxièmement, si l'on cherche des explications conjointes « fidèles » ou un pilotage fiable de plusieurs features à la fois, les contributions individuelles ne suffisent pas. Les corrections par paires apportent un gain tangible en précision de classement, ce que ne font pas les termes de triplets sur des échantillons aléatoires.

En pratique, lorsqu'on sélectionne des combinaisons de features pour le steering, mieux vaut mesurer le SAR et vérifier les effets de paires plutôt que de se fier à la somme des effets individuels. Une réserve s'impose : l'abstract ne précise ni les modèles utilisés, ni la taille des dictionnaires de SAE, ni le type de comportements étudiés. Il faut donc transposer ces chiffres à sa propre stack avec prudence. Le code est publié dans le dépôt OpenSAE/SAE-Behavioral-Compositionality : on peut donc exécuter la métrique sur ses propres SAE et vérifier l'ampleur du résidu de ses features.