Autoencoders dispersos: las interacciones por pares elevan la rank fidelity hasta 0,7790

Los autoencoders dispersos (SAE) se han convertido en una herramienta básica de la interpretabilidad mecanicista: descomponen las activaciones de un modelo en características dispersas que se decodifican de forma lineal. Un nuevo trabajo, que ha llegado a Hugging Face Daily Papers, comprueba si los efectos conductuales de esas características también se suman de manera lineal. La respuesta es que solo en parte.

Los autores introducen la métrica SAE Additivity Residuals (SAR) y demuestran, en 18 combinaciones de modelos y comportamientos, que las coordenadas de los SAE son más aditivas que una base aleatoria. Sin embargo, las interacciones por pares siguen siendo necesarias: en el experimento combinado con steering, la rank fidelity subió de 0,5874 a 0,7790 y el error de ordenación bajó de 0,1444 a 0,0606.

Descomposición lineal, consecuencias no lineales

La descomposición de un SAE es aditiva por construcción: la activación equivale a la suma de las contribuciones de las características. Pero entre la activación y el comportamiento están las capas siguientes del modelo, que son no lineales. Si se activan dos características a la vez, el efecto sobre la salida no tiene por qué ser la suma de los efectos de cada una por separado. Esto importa en la práctica. Cuando un investigador explica un comportamiento mediante un conjunto de características, o dirige el modelo mezclando varias a la vez, da por hecho de forma implícita que sus efectos se suman. Sin una comprobación, ese supuesto sigue siendo una hipótesis.

Qué mide exactamente SAR

SAR estima la fracción de la variación conductual que queda sin explicar por encima de un orden de interacción elegido. El orden 1 corresponde a un modelo puramente aditivo; el orden 2 añade los términos por pares, y así sucesivamente. Con un muestreo independiente de subconjuntos de características, el SAR poblacional es exactamente igual a la energía normalizada de las interacciones de orden superior al elegido. Además, acota el error de ordenación de coaliciones, es decir, el error al clasificar conjuntos de características según la fuerza de su efecto, para la aproximación óptima de orden bajo.

Para separar la aportación del propio SAE de la de los cálculos del modelo que vienen después, los autores compararon las coordenadas entrenadas con rotaciones aleatorias del mismo subespacio elegido, que conservan la suma. Si la aditividad dependiera solo de los cálculos del modelo, no habría diferencia. Sí la hay.

Resultados en cifras

• En las 18 configuraciones (modelo más comportamiento), las coordenadas entrenadas de los SAE tienen un residuo de primer orden menor que las rotadas al azar.
• Los términos por pares mejoran la calidad de la ordenación de coaliciones sobre datos retenidos en todas las configuraciones.
• Los términos por pares superan a los modelos con el mismo número de parámetros construidos con términos de tercer orden elegidos al azar. La mejora procede de la estructura de los pares, no del número de parámetros.
• En el experimento combinado con steering, la rank fidelity subió de 0,5874 a 0,7790.
• En ese mismo experimento, el error de ordenación bajó de 0,1444 a 0,0606, es decir, a menos de la mitad.

Qué deben hacer los profesionales

La conclusión para quienes trabajan con SAE tiene dos caras. Primera: las descripciones aditivas del comportamiento mediante características de SAE están bastante mejor justificadas que en una base aleatoria. Para estimaciones rápidas y un análisis inicial, un modelo lineal de efectos puede bastar. Segunda: si se necesitan explicaciones conjuntas «fieles» o un control fiable de varias características a la vez, las contribuciones individuales no son suficientes. Las correcciones por pares aportan una mejora apreciable en la precisión del ranking, mientras que los términos triples sobre muestras aleatorias no la logran.

En la práctica, esto significa que, al seleccionar combinaciones de características para steering, conviene medir SAR y comprobar los efectos por pares en lugar de fiarse de la suma de los efectos individuales. Hay una salvedad: el resumen del artículo no deja ver ni los modelos concretos, ni el tamaño de los diccionarios de los SAE, ni el tipo de comportamientos, así que conviene ser prudente al extrapolar las cifras a un stack propio. El código está publicado en el repositorio OpenSAE/SAE-Behavioral-Compositionality, de modo que se puede ejecutar la métrica sobre SAE propios y comprobar cuán grande es el residuo de sus características.