Оценка интерпретируемости SAE: пайплайн измерения важнее архитектуры модели

Los investigadores publicaron en julio de 2026 un artículo en arXiv que mostró que, al comparar la interpretabilidad de los autoencoders dispersos (sparse autoencoders, SAE), el resultado depende más del pipeline de evaluación elegido que de la arquitectura de los propios modelos.

Qué y cómo se comprobó

Los autores comprobaron si las puntuaciones de autointerpretability reflejan propiedades estables de las características del modelo o más bien particularidades secundarias del procedimiento de medición. En el pipeline estándar, un modelo de lenguaje explica cada característica del SAE, y un segundo modelo de lenguaje evalúa la calidad de esa explicación. Son precisamente estas puntuaciones las que se utilizan como base cuando se compara la interpretabilidad de SAE de distintos artículos.

El experimento abarcó cuatro métricas, dos modelos y cuatro ejes de variación metodológica, y en todas las condiciones no se confirmó la suposición inicial sobre la estabilidad de las puntuaciones.

• Cuatro métricas de evaluación: simulation, detection, fuzzing y purity
• Dos modelos: Pythia-160M y Apertus-8B
• Cuatro ejes de variación metodológica en el pipeline de evaluación
• Detection es la métrica más estable, fuzzing resulta poco fiable en todas las condiciones
• Tres herramientas propuestas por los autores: descomposición de varianza, Stability Check y Minimum Reporting Checklist

Por qué la metodología importa más que la arquitectura

La variabilidad metodológica, en conjunto, supera a la variabilidad arquitectónica en todas las métricas y en ambos modelos probados: esta es la conclusión principal del trabajo. Dicho de forma más simple, la dispersión de las puntuaciones causada por el propio diseño del procedimiento de medición resultó ser mayor que la dispersión entre las distintas arquitecturas de SAE que ese procedimiento debería distinguir.

«La variabilidad metodológica en conjunto supera a la variabilidad

arquitectónica en todas las métricas para todos los modelos probados», se afirma en el resumen del trabajo en arXiv.

Esto socava la propia lógica de las comparaciones entre artículos: si dos equipos obtuvieron puntuaciones de autointerpretability diferentes, la diferencia puede explicarse por la configuración de sus pipelines y no por la calidad de los propios autoencoders.

Dónde fallan las evaluaciones

Cada métrica mostró su propio perfil de inestabilidad, y la más fiable de todas fue detection; fuzzing, en cambio, resultó poco fiable en todas las condiciones probadas. Las distintas métricas no pueden considerarse intercambiables: la elección de una métrica concreta, por sí sola, cambia la conclusión final.

Otro problema aparte es el ranking de características. Según el estudio, las listas top-k de las características más interpretables no se mantienen estables al cambiar el corpus y las condiciones de muestreo. Al mismo tiempo, las puntuaciones promedio permanecen estables y enmascaran la inestabilidad a nivel de características individuales, un fallo que es imposible detectar si solo se sigue la similitud de las explicaciones.

Qué significa esto

Una evaluación poco fiable frena el progreso en interpretabilidad justo cuando más se necesitan herramientas fiables para comprender los sistemas de IA. Para que parte de las comparaciones en la literatura sobre SAE deje de reflejar diferencias de pipeline en lugar de diferencias entre modelos, los autores proponen un método de descomposición de varianza, un procedimiento Stability Check y un Minimum Reporting Checklist: un conjunto mínimo de parámetros que los artículos deben revelar.

Preguntas frecuentes

¿Qué métrica de evaluación resultó ser la más fiable?

Según los resultados del trabajo, la más estable de las cuatro métricas resultó ser detection. La métrica fuzzing, por el contrario, fue considerada poco fiable en todas las condiciones probadas, mientras que simulation y purity mostraron sus propios perfiles de inestabilidad.

¿Qué proponen los autores para una evaluación más fiable?

Los autores proponen tres herramientas: un método de descomposición de varianza (variance decomposition), un procedimiento Stability Check para comprobar la estabilidad de las puntuaciones y un Minimum Reporting Checklist, una lista de parámetros del pipeline que deben revelarse en los artículos para que las comparaciones sigan siendo comparables.