SHAP para machine learning: comparación de explainers y guía práctica
SHAP es una herramienta de explicabilidad para modelos de ML. Una nueva guía compara cuatro métodos de interpretación: Tree para modelos basados en árboles, Exa
SHAP se ha convertido en el estándar en ML — es un framework que muestra cuánto contribuye cada característica a la predicción de un modelo. ¿Pero cómo elegir entre diferentes métodos de interpretación? Una nueva guía proporciona una respuesta práctica.
Cuatro Formas de Explicar un Modelo
Una guía de GitHub compara diferentes SHAP explainers en los mismos datos — árboles de decisión y otros modelos. Resulta que la forma en que se calcula la importancia de las características afecta tanto al resultado como a la velocidad.
- Tree explainer — funciona solo con árboles, el más rápido
- Exact explainer — matemáticamente preciso, pero lento en modelos grandes
- Permutation explainer — universal, funciona con cualquier modelo
- Kernel explainer — el más flexible, pero requiere mucha memoria
Cuándo Usar Cuál Método
Si el modelo es un árbol de decisión o bosque aleatorio, Tree explainer hará el trabajo en milisegundos. Si se necesita precisión absoluta en datos pequeños, Exact explainer no decepcionará. Para cajas negras (redes neuronales, XGBoost), Permutation o Kernel son apropiados — el primero es más rápido, el segundo es más preciso.
La guía también muestra cómo rastrear drift — cuando un modelo se degrada con el tiempo. SHAP ayuda a entender qué características han comenzado a comportarse de forma extraña. Para interacciones entre características (cuando A y B juntas son más importantes que por separado) hay métodos separados.
Práctica vs Teoría
En datos reales, Tree explainer es 100+ veces más rápido que Exact, pero Exact siempre da un resultado, mientras que Tree puede variar según la estructura. Permutation funciona con cualquier cosa, pero requiere muchos cálculos en datasets grandes. Kernel es el más lento de todos, pero entiende mejor las explicaciones locales alrededor del punto de interés.
Lo Que Esto Significa
La interpretabilidad del modelo ML no es un lujo, sino una necesidad. Los reguladores requieren explicar por qué un modelo rechazó una solicitud de crédito o diagnosticó una enfermedad. SHAP es una de las herramientas que hace esto. La nueva guía muestra que no hay solución universal: elige un explainer dependiendo del tipo de modelo, volumen de datos y precisión requerida.