KPMG retira un informe sobre IA después de que UBS, el NHS y otros desmintieran casos inventados

KPMG ha retirado su informe «Repensar la excelencia en la era de la IA agéntica» después de que cuatro grandes organizaciones de distintos países y sectores desmintieran públicamente las descripciones de sus proyectos de IA incluidas en el documento.

Qué ocurrió con el informe

El informe de KPMG iba dirigido a un público corporativo y estaba dedicado a las mejores prácticas para implantar IA agéntica, es decir, sistemas capaces de ejecutar de forma autónoma tareas de varios pasos. Incluía casos de grandes empresas y organismos públicos, presumiblemente como ejemplos de trabajo exitoso con la nueva tecnología. Los estudios de este tipo de las consultoras de las «Cuatro Grandes» se utilizan tradicionalmente como referencia de autoridad a la hora de decidir si una empresa adopta una tecnología.

El problema salió a la luz cuando el Financial Times se puso en contacto con las organizaciones mencionadas en el informe. Los representantes de las compañías dijeron al diario que supieron de su participación solo después de la publicación y que se llevaron una enorme sorpresa. Los casos descritos no se correspondían ni con los proyectos reales de las organizaciones ni con su postura oficial sobre la inteligencia artificial.

Tras la oleada de desmentidos, KPMG retiró el informe sin dar explicaciones detalladas. La compañía no ha explicado públicamente cómo llegaron a un documento oficial datos falsos sobre organizaciones concretas.

Quién desmintió sus casos

Cuatro organizaciones de sectores muy distintos presentaron quejas a KPMG:

• UBS: uno de los mayores bancos del mundo afirmó que las iniciativas de IA descritas no guardan relación con él
• NHS (el Servicio Nacional de Salud del Reino Unido): dijo que su caso se expone de forma inexacta o distorsionada
• Ferrocarriles Federales Suizos: no reconocieron los proyectos de IA que se les atribuyen
• Transport for London: también negó la descripción de su actividad en IA en el informe

Llama la atención que las cuatro organizaciones se pronunciaron de forma independiente, por iniciativa propia y sin coordinarse. Eso descarta la hipótesis de un malentendido aislado. También es significativo que ninguna cuestionara detalles concretos: cada una sostuvo que los casos descritos simplemente no tienen que ver con ella. Es una diferencia fundamental entre una inexactitud y una invención directa.

Alucinaciones en un informe sobre IA

Es difícil no ver la ironía. Un informe dedicado a la «excelencia» en la era de la IA agéntica ha sufrido el fenómeno que sigue siendo el principal problema de los modelos de lenguaje actuales: las alucinaciones, es decir, la reproducción segura de hechos, nombres, citas y descripciones inexistentes. Si se usaron herramientas de IA para recopilar o resumir los casos sin la verificación adecuada, eso explicaría el resultado: historias de éxito bien escritas, pero totalmente inventadas. Precisamente porque las alucinaciones suenan verosímiles y contienen detalles concretos, resultan muy difíciles de detectar sin comprobar minuciosamente cada afirmación.

«La descripción de nuestro trabajo con IA no se corresponde con la realidad», cita el

Financial Times a representantes de varias de las organizaciones mencionadas.

El escándalo daña la reputación de KPMG como fuente de análisis fiable. Los informes de las «Cuatro Grandes» se consideran contrastados, y por eso se citan en estrategias empresariales y en presentaciones a consejos de administración. Si esos informes pueden contener casos inventados, cambia cuánta confianza merecen sin una verificación independiente.

Qué significa

El incidente de KPMG es síntoma de un problema más amplio. El bombo en torno a la IA agéntica ejerce una enorme presión sobre los equipos de análisis para publicar más rápido de lo que pueden verificar los datos. Para cualquier organización, es un recordatorio de que conviene vigilar de cerca cómo se presentan su nombre y sus proyectos en informes sectoriales y en el marketing de IA. Los datos distorsionados que entran una vez en un informe respetado empiezan pronto a vivir vida propia: se citan y se usan como referencia. Hay que reaccionar antes de que eso ocurra.