Un detective de IA en el Departamento de Salud de EE. UU.: Robert F. Kennedy Jr. busca efectos secundarios donde nadie los ha visto

Imagine que entrega un potente microscopio digital a alguien convencido de antemano de que todos los males del mundo los causa un tipo concreto de microbio. Los encontrará sí o sí, aunque sea solo polvo en la lente o un defecto del cristal. Algo así ocurre ahora en los pasillos del Departamento de Salud y Servicios Humanos de EE.

UU. (HHS). El organismo, hoy indisociable de la polémica figura de Robert F.

Kennedy Jr., ha decidido armarse con inteligencia artificial para buscar vínculos entre la vacunación y diversas enfermedades. El análisis de datos en sí es una idea loable e incluso necesaria.

En medicina siempre hay margen para buscar efectos secundarios extremadamente raros que pudieron escapar a los investigadores durante los ensayos clínicos estándar. Pero el diablo, como de costumbre, está en los detalles y en quién sostiene exactamente el mando de esta tecnología.

Durante décadas, Kennedy construyó su carrera pública sobre un duro escepticismo hacia las vacunas. Ahora dispone de una herramienta capaz de convertir quejas dispersas y a menudo no confirmadas en hipótesis supuestamente con base científica. El problema es que la IA actual no es un juez imparcial ni portadora de una verdad absoluta.

Es un espejo de los datos que se le cargan y de los prompts que se le dictan. Si se alimenta a una red neuronal con la enorme base de datos VAERS, que recoge cualquier queja de las personas tras vacunarse, desde un leve dolor de cabeza hasta lesiones fortuitas, y se le pide con insistencia que halle patrones, los hallará. Las redes neuronales alucinan correlaciones con virtuosismo, sobre todo si se les pide.

Científicos de todo el mundo temen que la nueva herramienta se convierta en una cadena de montaje de titulares sobre un daño demostrado, ignorando por completo el principio médico básico: después de no significa a causa de.

Este caso plantea a toda la industria de la IA una cuestión ética de primer orden. Estamos acostumbrados a discutir los errores absurdos de los chatbots, como confundir fechas de nacimiento de famosos o inventar libros inexistentes. Pero cuando un algoritmo empieza a generar hipótesis médicas capaces de influir en la política estatal y en la salud de millones de personas, las apuestas se disparan.

Usar el aprendizaje automático para confirmar el propio sesgo (el llamado confirmation bias) es quizá el escenario más peligroso de aplicación de la tecnología en la administración pública. En lugar de emplear los algoritmos para verificar con objetividad la seguridad de los medicamentos, corremos el riesgo de obtener una herramienta perfecta para legitimar teorías conspirativas.

La situación se complica porque el gran público tiende a confiar más en las conclusiones de un ordenador que en las palabras de los políticos. Si el HHS empieza a publicar informes generados por una red neuronal, a la comunidad científica le resultará muy difícil rebatirlos. Discutir con cifras y gráficos respaldados por una inteligencia misteriosa y potente es psicológicamente más duro que hacerlo con un personaje público. Entramos en la era de los datos alternativos, donde la IA puede convertirse no en asistente del médico, sino en el arma principal de una guerra informativa contra la medicina basada en la evidencia. Y lidiaremos con las consecuencias de este experimento durante mucho tiempo.

Lo esencial: ¿Logrará la comunidad científica crear un sistema de contrapesos, o nos espera una era en la que los estándares médicos los dicten algoritmos con un vector de búsqueda predefinido?