SHAP para aprendizaje automático: comparativa de explainers y guía práctica

SHAP se ha convertido en un estándar en ML. Es un marco que muestra qué aportación hace cada variable a la predicción de un modelo. Pero ¿cómo elegir entre los distintos métodos de interpretación? Una nueva guía ofrece una respuesta práctica.

Cuatro formas de explicar un modelo

La guía de GitHub compara distintos explainers de SHAP sobre los mismos datos, con árboles de decisión y otros modelos. Resulta que la forma de calcular la importancia de las variables influye tanto en el resultado como en la velocidad.

• Tree explainer: solo funciona con árboles y es el más rápido
• Exact explainer: matemáticamente exacto, pero lento en modelos grandes
• Permutation explainer: universal, funciona con cualquier modelo
• Kernel explainer: el más flexible, pero requiere mucha memoria

Cuándo usar cada método

Si el modelo es un árbol de decisión o un bosque aleatorio, el Tree explainer hace el trabajo en milisegundos. Si se necesita precisión absoluta con datos pequeños, el Exact explainer no falla. Para cajas negras (redes neuronales, XGBoost) sirven Permutation o Kernel: el primero es más rápido y el segundo, más preciso.

La guía también muestra cómo vigilar el drift, es decir, cuando un modelo se degrada con el tiempo. SHAP ayuda a entender qué variables han empezado a comportarse de forma extraña. Para las interacciones entre variables (cuando A y B juntas importan más que por separado) existen métodos específicos.

Práctica frente a teoría

Con datos reales, el Tree explainer es más de 100 veces más rápido que Exact, pero Exact siempre da el mismo resultado, mientras que Tree puede variar según la estructura. Permutation funciona con cualquier cosa, pero exige muchos cálculos en conjuntos de datos grandes. Kernel es el más lento, pero es el que mejor entiende las explicaciones locales alrededor de un punto de interés.

Qué significa

La explicabilidad de un modelo de ML no es un lujo, sino una necesidad. Los reguladores exigen explicar por qué un modelo rechazó un crédito o diagnosticó una enfermedad. SHAP es una de las herramientas que lo permite. La nueva guía muestra que no existe una solución universal: hay que elegir el explainer según el tipo de modelo, el volumen de datos y la precisión requerida.