Auto-encodeur Clairsemé
Un auto-encodeur clairsemé (SAE) est un réseau de neurones entraîné à reconstruire les entrées via une grande couche cachée surcomplète — la plupart des unités inactives pour toute entrée donnée — utilisé dans l'interprétabilité méchaniste pour décomposer les activations superposées du transformer en caractéristiques individuellement interprétables.
Un auto-encodeur clairsemé (SAE) est une variante de l'architecture d'auto-encodeur classique dans laquelle une pénalité de sparsité L1 sur la couche cachée force le réseau à représenter chaque entrée en utilisant seulement une petite fraction de ses unités cachées. Contrairement aux auto-encodeurs conventionnels qui compriment les informations, les SAE apprennent des représentations surcomplètes — plus d'unités cachées que de dimensions d'entrée — échangeant la compression contre la capacité à démêler les nombreuses directions distinctes que l'entrée peut contenir. La contrainte de sparsité encourage les unités cachées individuelles à se spécialiser pour des motifs spécifiques et rarement observés ensemble.
L'application des SAE à l'interprétabilité méchaniste a été systématiquement développée par Anthropic dans l'article de 2023 « Towards Monosemanticity » et l'article de 2024 « Scaling and Evaluating Sparse Autoencoders ». L'intuition motivante est que les couches MLP du transformer et les activations du flux résiduel présentent la superposition : parce que les modèles stockent plus de caractéristiques qu'ils n'ont de dimensions, les neurones individuels réagissent à de nombreux concepts sans rapport simultanément. L'application d'un SAE à ces activations lui permet d'apprendre un dictionnaire de directions dans lequel chaque unité cachée SAE tend à s'activer pour un seul concept humainement interprétable plutôt que pour plusieurs. Les analyses d'Anthropic ont identifié des millions de telles caractéristiques dans les modèles Claude, correspondant à des entités reconnaissables, des constructions de programmation, des états émotionnels et des sujets sensibles.
Les SAE importent pour la sécurité de l'IA car ils fournissent un dictionnaire énumérable et scalable des concepts internes d'un modèle. Avec ce dictionnaire, les chercheurs peuvent sonder quelles caractéristiques s'activent lors d'une génération donnée, tester si les états internes pertinents pour la sécurité sont présents même lorsqu'ils sont absents de la sortie, et effectuer un pilotage ciblé en serrant artificiellement les activations des caractéristiques. Ils permettent également l'étude de la composition des caractéristiques plus simples en représentations plus complexes, soutenant une théorie plus large du stockage des connaissances dans les grands modèles de langage.
En 2026, les SAE ont été entraînés sur plusieurs modèles frontière et la technique est devenue un outil standard dans la recherche en interprétabilité méchaniste. Des bibliothèques open-source telles que SAELens permettent aux chercheurs d'entraîner et d'analyser les SAE sur les points de contrôle de modèles disponibles publiquement. Les défis actifs incluent l'entraînement efficace des SAE à l'échelle des plus grands modèles, l'établissement que les caractéristiques identifiées sont causalement plutôt que simplement corrélationnelles, et la gestion des caractéristiques abstraites ou relationnelles qui résistent à la caractérisation de jeton unique.