Diagnóstico de un algoritmo: quién responde cuando la IA se equivoca en medicina

En quirófanos y salas de diagnóstico de todo el mundo se está produciendo una revolución silenciosa. Los algoritmos de aprendizaje automático leen radiografías, analizan resultados de biopsias, detectan arritmias en electrocardiogramas y predicen la probabilidad de desarrollar enfermedades oncológicas. Según la Organización Mundial de la Salud, a principios de 2026 más de 500 sistemas de IA habían obtenido aprobación regulatoria para uso clínico solo en Estados Unidos. La tecnología funciona, y a menudo de forma impresionante. Pero tras la fachada del optimismo tecnológico se esconde una pregunta que ni la comunidad médica, ni los legisladores, ni los desarrolladores han sabido responder de forma convincente: ¿quién responde cuando el algoritmo se equivoca?

El problema no es teórico. En 2025, varios casos de gran repercusión en Europa y Asia demostraron que los asistentes de IA pueden pasar por alto patologías críticas o, al contrario, generar falsos positivos que derivan en procedimientos invasivos innecesarios. En todos ellos la responsabilidad se diluyó entre los eslabones de la cadena: la empresa desarrolladora señaló que el sistema era solo una herramienta de apoyo a la decisión, el hospital se remitió a la certificación del producto, y el médico quedó atrapado entre su propia pericia y la recomendación de una máquina que, en miles de casos anteriores, había acertado más que él.

La raíz del problema está en la propia arquitectura de la IA médica actual. La mayoría de los sistemas clínicos funcionan como una «caja negra»: las redes neuronales profundas toman decisiones cuya lógica ni siquiera sus creadores pueden explicar del todo. Cuando un radiólogo examina una imagen y emite un dictamen, puede argumentar cada paso de su razonamiento. Cuando lo hace un algoritmo, entrega una probabilidad y un mapa de calor de atención, pero no una justificación clínica. Esto crea una brecha fundamental: el médico debe o bien confiar ciegamente en el sistema, o bien realizar cada vez una evaluación independiente completa, lo que anula toda la ganancia de eficiencia.

Otra faceta del problema es el llamado efecto de automatización. Décadas de investigación en aviación e industria han demostrado que las personas tienden a confiar en exceso en los sistemas automáticos y van perdiendo sus propias habilidades de evaluación crítica. En medicina, este efecto es potencialmente más peligroso que en cualquier otro ámbito. Los médicos jóvenes que trabajan con asistentes de IA desde los primeros años de formación corren el riesgo de no desarrollar nunca la profundidad de razonamiento clínico que permitía a sus predecesores detectar patologías raras que no encajan en los patrones estadísticos. El algoritmo se entrena con millones de casos típicos, pero la medicina es en buena medida el arte de manejar las excepciones.

El panorama regulatorio sigue pareciendo un mosaico. La AI Act europea, que entra en vigor por fases, clasifica los sistemas de IA médicos como de alto riesgo y exige transparencia, pero los mecanismos concretos para repartir la responsabilidad siguen siendo difusos. En Rusia, el Ministerio de Sanidad impulsa activamente la digitalización de la sanidad, aunque el marco normativo para el diagnóstico con IA avanza más despacio que la propia tecnología. La cuestión de la responsabilidad jurídica choca con un dilema clásico: un sistema de IA no es sujeto de derecho, no puede asumir responsabilidad, perder una licencia ni ser llevado ante un tribunal.

El enfoque más maduro se está gestando en el Reino Unido, donde el Servicio Nacional de Salud ha desarrollado un marco que divide la responsabilidad en tres niveles. El desarrollador responde de la validación y la seguridad del algoritmo. La institución médica, de su correcta implantación y supervisión. El médico conserva la responsabilidad clínica final, siempre que disponga de herramientas adecuadas para evaluar críticamente las recomendaciones de la IA. No es una solución perfecta, pero al menos es un marco viable que permite avanzar.

La industria tendrá que aceptar una verdad incómoda: la madurez tecnológica de la IA en medicina ha superado con creces la preparación institucional para usarla. Los algoritmos ya superan a los especialistas medios en varias tareas diagnósticas acotadas, pero un sistema sanitario no se reduce a la precisión en el reconocimiento de patologías. Es también la confianza del paciente, la protección jurídica, los estándares éticos y una empatía humana que no se puede digitalizar.

El futuro de la IA médica no está en sustituir al médico, sino en crear un nuevo modelo de colaboración en el que los límites de la responsabilidad estén definidos con tanta claridad como los protocolos de tratamiento. Hasta que eso ocurra, cada diagnóstico algorítmico sigue siendo un experimento: brillante en lo técnico, pero vulnerable en lo jurídico y lo ético.