Diagnóstico por algoritmo: quién responde cuando la AI se equivoca en medicina

Una revolución silenciosa está ocurriendo en quirófanos y consultorios de diagnóstico en todo el mundo. Los algoritmos de aprendizaje automático leen radiografías, analizan resultados de biopsias, detectan arritmias en electrocardiogramas y predicen la probabilidad de desarrollo de enfermedades oncológicas. Según la Organización Mundial de la Salud, a principios de 2026, más de 500 sistemas de IA habían recibido aprobación regulatoria para uso clínico solo en Estados Unidos. La tecnología funciona, y a menudo funciona de manera impresionante. Pero detrás de la fachada del optimismo tecnológico hay una pregunta que la comunidad médica, los legisladores y los desarrolladores aún no han encontrado una respuesta convincente: ¿quién es responsable cuando el algoritmo se equivoca?

El problema no es teórico. En 2025, varios casos de alto perfil en Europa y Asia demostraron que los asistentes de IA son capaces de pasar por alto patologías críticas o, por el contrario, generar falsos positivos que conducen a procedimientos invasivos innecesarios. En cada uno de estos casos, la responsabilidad se diluyó entre varios participantes en la cadena: la empresa desarrolladora argumentaba que el sistema era simplemente una herramienta de apoyo para la toma de decisiones, el hospital citaba la certificación del producto, y el médico se encontraba atrapado entre su propia experiencia y la recomendación de una máquina que en miles de casos anteriores había resultado más precisa que él.

La raíz del problema radica en la arquitectura misma de la IA médica moderna. La mayoría de los sistemas clínicos se construyen sobre el principio de la "caja negra"—las redes neuronales profundas toman decisiones cuya lógica no puede ser completamente explicada ni siquiera por sus creadores. Cuando un radiólogo observa una imagen y emite un diagnóstico, puede argumentar cada paso de su razonamiento. Cuando un algoritmo hace lo mismo, produce una probabilidad y un mapa de calor de atención, pero no una justificación clínica. Esto crea una brecha fundamental: el médico se ve obligado a confiar ciegamente en el sistema o a realizar una evaluación independiente completa cada vez, lo que elimina todas las ganancias de eficiencia.

Una faceta separada de este problema es el llamado efecto de sesgo de automatización. Décadas de investigación en aviación e industria han demostrado que las personas tienden a depender excesivamente de sistemas automatizados, perdiendo gradualmente sus propias habilidades de evaluación crítica. En medicina, este efecto es potencialmente más peligroso que en cualquier otro campo. Los médicos jóvenes que trabajan con asistentes de IA desde sus primeros años de formación corren el riesgo de nunca desarrollar la profundidad del pensamiento clínico que permitió a sus predecesores detectar patologías raras que no se ajustan a patrones estadísticos. Un algoritmo se entrena en millones de casos típicos, pero la medicina es en gran medida un arte de tratar con excepciones.

El panorama regulatorio aún se parece a un mosaico de retazos. La Ley de IA Europea, que entró en vigor por fases, clasifica los sistemas de IA médica como de alto riesgo y exige transparencia, pero los mecanismos específicos para distribuir la responsabilidad siguen siendo borrosos. En Rusia, el Ministerio de Salud está impulsando activamente la digitalización de la atención médica, pero el marco normativo para el diagnóstico por IA se está desarrollando más lentamente que las propias tecnologías. La cuestión de la responsabilidad legal se reduce a un dilema clásico: un sistema de IA no es un sujeto legal, no puede ser responsabilizado, perder una licencia o ser procesado en un tribunal.

El enfoque más maduro para este problema está tomando forma en el Reino Unido, donde el Servicio Nacional de Salud ha desarrollado un marco que divide la responsabilidad en tres niveles. El desarrollador es responsable de la validación y seguridad del algoritmo. La institución médica es responsable de la implementación correcta y el monitoreo. El médico retiene la responsabilidad clínica final, siempre que se le proporcionen herramientas adecuadas para la evaluación crítica de las recomendaciones de IA. Esta no es una solución perfecta, pero al menos es un marco viable que permite avanzar.

La industria debe reconocer una verdad incómoda: la madurez tecnológica de la IA en medicina ha superado con creces la disposición institucional para su aplicación. Los algoritmos ya superan a los especialistas promedio en varias tareas diagnósticas limitadas, pero el sistema de salud es más que solo precisión en el reconocimiento de patologías. Es la confianza del paciente, la protección legal, los estándares éticos y la empatía humana que no puede digitalizarse.

El futuro de la IA médica no está en reemplazar al médico, sino en crear un nuevo modelo de asociación donde los límites de responsabilidad estén definidos tan claramente como los protocolos de tratamiento. Hasta que eso ocurra, cada diagnóstico algorítmico sigue siendo un experimento—brillante técnicamente, pero vulnerable legal y éticamente.