Un estudio de Microsoft alerta del riesgo de delegar el trabajo con documentos a los LLM

Microsoft Research ha publicado explicaciones detalladas sobre su estudio «LLMs Corrupt Your Documents When You Delegate», que la comunidad profesional ha comentado mucho últimamente. El equipo quiere aclarar qué demuestra realmente su trabajo y dónde surgen con frecuencia interpretaciones erróneas o demasiado tajantes.

Qué estudió la investigación

El trabajo analiza la fiabilidad de los modelos de lenguaje cuando se les delega el procesamiento de documentos dentro de un flujo de trabajo más largo. Por ejemplo, la automatización del tratamiento de contratos entrantes, la preparación de informes a partir de datos de origen o el enrutamiento de documentos.

La observación clave: un modelo puede distorsionar la información sin que nadie lo note. No ocurre solo porque el LLM se equivoque, sino porque a menudo «mejora» el texto por su cuenta: corrige la gramática y reformula frases aunque nadie se lo haya pedido. En cada paso de una cadena larga la información puede cambiar ligeramente, y al final el resultado puede diferir de forma notable de los datos originales.

Los investigadores desarrollaron métodos para evaluar esta fiabilidad: herramientas que miden en qué grado un sistema conserva la exactitud a lo largo de una cadena de operaciones. Estos métodos son críticos porque, sin ellos, las empresas simplemente no saben cuán arriesgado es usar LLM en procesos críticos.

Qué se suele interpretar mal

Microsoft subraya varios puntos que los críticos suelen distorsionar en el debate:

• El estudio no es una condena de todos los LLM. No sostiene que los modelos de lenguaje sean poco fiables en general, sino que describe un riesgo concreto en escenarios de delegación prolongada con documentos.
• No afirma que el problema sea «irremediable». El estudio señala un problema, pero no dice que no pueda resolverse. Existen enfoques arquitectónicos para reducir el riesgo.
• Lo principal es la metodología de evaluación. El objetivo es ofrecer herramientas para medir la fiabilidad, no simplemente detectar un fallo en un solo modelo.

Algunos críticos interpretan los resultados como una prohibición total de usar LLM en producción. Es una lectura demasiado tajante y no coincide con las conclusiones del propio estudio.

Qué deben hacer los desarrolladores

Para quienes integran LLM en flujos de trabajo con documentos, la conclusión es práctica: hacen falta mecanismos de control. Se puede:

• Validar periódicamente los resultados intermedios, sin confiar en una sola pasada del modelo
• Hacer revisión humana de los pasos críticos del proceso
• Registrar todos los cambios que haya introducido el modelo, para ver qué ha cambiado
• Comparar el resultado final con los datos de origen al final de la cadena

Las empresas que ya usan LLM para procesar contratos, informes u otros documentos críticos deberían comprobar si cuentan con esos mecanismos. Si no los tienen, es una zona de riesgo.

Qué significa

El estudio de Microsoft no es una señal de pánico, sino un llamamiento científico a la responsabilidad en ingeniería. Los modelos de lenguaje pueden trabajar con documentos y asumir partes del procesamiento, pero ello exige una arquitectura que prevea la verificación en cada paso clave. Para la industria, esto significa que la fiabilidad de los sistemas de IA de larga duración no es una cuestión teórica, sino una tarea de ingeniería que no se puede ignorar.