Incertidumbre mecanicista en LLM: medir la robustez causal de los mecanismos internos

El problema de las alucinaciones en aplicaciones críticas

Los grandes modelos de lenguaje se utilizan ampliamente en sistemas donde los errores tienen consecuencias graves, desde el diagnóstico médico hasta el análisis jurídico. El problema principal es que los LLM generan respuestas que suenan convincentes pero son incorrectas: las alucinaciones. Los métodos tradicionales de estimación de incertidumbre, basados en el análisis de logits y probabilidades de salida, a menudo no son suficientes para esta tarea. Se necesita un método que refleje directamente la fiabilidad de los mecanismos internos del modelo.

Los científicos Aneesh Komanduri, Majid Afshar, Timothy A. Miller y Yanjun Gao introdujeron el concepto de incertidumbre mecanicista. Este enfoque caracteriza la incertidumbre no a través de las distribuciones de salida, sino mediante la estabilidad de los mecanismos internos que sostienen la generación de una respuesta. Si las representaciones internas son sólidas y coherentes, el margen de robustez es amplio. Si son poco fiables, el margen es estrecho.

El margen de robustez causal y las herramientas utilizadas

El concepto central de la investigación es el margen de robustez causal. Se trata de la intervención interna mínima necesaria para que el modelo cambie su respuesta. Cuanto más amplio sea el margen, con más firmeza mantiene el modelo su elección desde el punto de vista de su estructura interna.

Para la implementación práctica, los autores utilizan vectores de dirección de conceptos de Jacobian Lens (JLens), una herramienta de dirección de conceptos (concept steering) que permite modificar de forma dirigida las activaciones dentro de un transformer. Los investigadores miden qué amplitud de intervención hay que aplicar a estos vectores para desviar al modelo de su predicción actual. Esa amplitud es precisamente el margen de robustez causal.

Resultados experimentales

El estudio abarcó 3 modelos de lenguaje abiertos y 5 datasets de tipo preguntas y respuestas. Las conclusiones son claras y reproducibles:

• Las respuestas incorrectas muestran márgenes de robustez causal significativamente más estrechos que las correctas • Las respuestas que el modelo genera con baja confianza muestran una sensibilidad incrementada a las intervenciones internas • El margen de robustez causal funciona de forma ortogonal a los métodos tradicionales: complementa, pero no duplica, la información de las distribuciones de salida

Validación mediante inyección de conocimiento

Para una verificación adicional, los autores realizaron un experimento controlado de inyección de conocimiento. Se entrenó al modelo con hechos nuevos, y tras el entrenamiento, los conocimientos correctamente asimilados mostraron márgenes de robustez causal incrementados. Esta es una observación crucial: el margen de robustez responde a un aprendizaje genuino y no simplemente registra un artefacto estadístico.

Importancia para el desarrollo y la seguridad

La incertidumbre mecanicista ofrece a los desarrolladores una herramienta fundamentalmente nueva. En lugar de la vaga admisión de "no sabemos cuándo nos equivocamos", surge un método para analizar directamente la robustez de las representaciones internas del modelo. Esto es especialmente valioso para aplicaciones de alto riesgo: no se trata solo de estimar una probabilidad, sino de comprender mecanísticamente con qué firmeza el modelo mantiene su elección, analizando la sensibilidad de sus procesos internos ante intervenciones.

El trabajo se publicó en octubre de 2026 (arXiv 2610.22636).