Evaluación de la interpretabilidad de los SAE: el pipeline de medición pesa más que la arquitectura del modelo

En julio de 2026, un grupo de investigadores publicó en arXiv un trabajo que muestra que, al comparar la interpretabilidad de los autoencoders dispersos (sparse autoencoders, SAE), el resultado depende más del pipeline de evaluación elegido que de la arquitectura de los propios modelos.

Qué se comprobó y cómo

Los autores quisieron saber si las evaluaciones de autointerpretability reflejan propiedades estables de las características del modelo o, por el contrario, rasgos accidentales del procedimiento de medición. En el pipeline estándar, un modelo de lenguaje explica cada característica del SAE y un segundo modelo de lenguaje puntúa la calidad de esa explicación. Son estas evaluaciones las que se utilizan para comparar la interpretabilidad de SAE de distintos artículos.

El experimento abarcó cuatro métricas, dos modelos y cuatro ejes de variación metodológica. En todas las condiciones, la hipótesis de partida sobre la estabilidad de las evaluaciones no se confirmó.

• Cuatro métricas de evaluación: simulation, detection, fuzzing y purity
• Dos modelos: Pythia-160M y Apertus-8B
• Cuatro ejes de variación metodológica en el pipeline de evaluación
• Detection es la métrica más estable; fuzzing no es fiable en ninguna de las condiciones
• Tres herramientas aportadas por los autores: descomposición de la varianza, Stability Check y Minimum Reporting Checklist

Por qué la metodología pesa más que la arquitectura

La variabilidad metodológica, en conjunto, supera a la arquitectónica en todas las métricas y en los dos modelos probados; es la conclusión principal del trabajo. En otras palabras, la dispersión de las puntuaciones causada por el diseño del propio procedimiento de medición resultó mayor que la dispersión entre las distintas arquitecturas de SAE que ese procedimiento debería distinguir.

«La variabilidad metodológica, en conjunto, supera a la arquitectónica

en todas las métricas y en todos los modelos probados», señala el resumen del trabajo en arXiv.

Esto socava la lógica misma de las comparaciones entre artículos: si dos equipos obtienen puntuaciones de autointerpretability distintas, la diferencia puede deberse a la configuración de sus pipelines y no a la calidad de los autoencoders.

Dónde fallan las evaluaciones

Cada métrica mostró su propio perfil de inestabilidad, y detection fue la que mejor resistió; fuzzing, en cambio, resultó poco fiable en todas las condiciones comprobadas. Las distintas métricas no pueden considerarse intercambiables: la elección de una métrica concreta cambia por sí sola la conclusión final.

Otro problema es el ranking de características. Según el estudio, las listas top-k de las características más interpretables no se mantienen al cambiar el corpus ni las condiciones de muestreo. Además, las puntuaciones medias siguen siendo estables y enmascaran la inestabilidad a nivel de características individuales, un fallo imposible de detectar si solo se vigila la similitud entre explicaciones.

Qué significa

Una evaluación poco fiable frena el avance de la interpretabilidad justo cuando hacen más falta herramientas fiables para entender los sistemas de IA. Para que parte de las comparaciones de la literatura sobre SAE deje de reflejar diferencias entre pipelines en lugar de diferencias entre modelos, los autores proponen un método de descomposición de la varianza, el procedimiento Stability Check y un Minimum Reporting Checklist: el conjunto mínimo de parámetros que los artículos deberían revelar.

Preguntas frecuentes

¿Qué métrica de evaluación resultó la más fiable?

Según los resultados del trabajo, la más estable de las cuatro métricas fue detection. La métrica fuzzing, por el contrario, se consideró poco fiable en todas las condiciones comprobadas, mientras que simulation y purity mostraron sus propios perfiles de inestabilidad.

¿Qué proponen los autores para lograr una evaluación más fiable?

Los autores proponen tres herramientas: un método de descomposición de la varianza (variance decomposition), el procedimiento Stability Check para comprobar la estabilidad de las evaluaciones y el Minimum Reporting Checklist, una lista de parámetros del pipeline que deben revelarse en los artículos para que las comparaciones sigan siendo equiparables.