Detective de IA en Salud de EE.UU.: Robert Kennedy Jr. busca efectos secundarios donde no fueron detectados

Imagina que le das el microscopio digital más poderoso a una persona que ya está convencida de que microbios de un tipo muy específico son culpables de todos los males del mundo. Seguramente los encontrará, aunque sea solo polvo en la lente o un defecto del cristal. Más o menos eso es lo que está sucediendo ahora en los pasillos del Departamento de Salud y Servicios Humanos de EE.

UU. (HHS). El departamento, ahora inextricablemente asociado con la controversial figura de Robert F.

Kennedy Jr., ha decidido armarse con inteligencia artificial para encontrar conexiones entre la vacunación y varias enfermedades. La idea del análisis de datos es en sí algo beneficioso e incluso necesario.

En medicina, siempre hay lugar para buscar efectos secundarios extremadamente raros que pudieron haber escapado la atención de los investigadores durante ensayos clínicos estándar. Sin embargo, el diablo, como siempre, está en los detalles—y en quién exactamente controla esta tecnología.

Kennedy Jr. ha pasado décadas construyendo su carrera pública sobre un escepticismo riguroso hacia las vacunas. Ahora a su disposición está una herramienta capaz de transformar quejas dispersas y frecuentemente no confirmadas en hipótesis ostensiblemente fundamentadas científicamente.

El problema es que la IA moderna no es ni un juez imparcial ni un portador de la verdad absoluta. Es un espejo de los datos cargados en ella y de los prompts dictados a ella. Si alimentas una red neuronal con una base de datos VAERS masiva que contiene cualquier queja de personas después de las vacunaciones—desde dolores de cabeza leves hasta lesiones aleatorias—e insistentemente le pides que encuentre patrones, los encontrará.

Las redes neuronales son virtuosas en alucinar correlaciones, especialmente si se les pide muy insistentemente. Los científicos de todo el mundo temen que la nueva herramienta se convierta en una cadena de montaje para producir titulares sensacionalistas sobre daño probado, ignorando completamente el principio médico básico: después no significa a causa de.

Este caso plantea una cuestión ética crucial para toda la industria de la IA. Estamos acostumbrados a discutir errores absurdos de chatbot, cuando confunden fechas de nacimiento de celebridades o inventan libros inexistentes. Pero cuando un algoritmo comienza a generar hipótesis médicas capaces de influir en la política estatal y la salud de millones de personas, las apuestas se disparan. Usar aprendizaje automático para confirmar el propio sesgo (el llamado sesgo de confirmación) es quizás el escenario más peligroso para la aplicación de tecnología en el gobierno. En lugar de usar algoritmos para verificar objetivamente la seguridad de los medicamentos, corremos el riesgo de obtener una herramienta perfecta para legitimar teorías conspirativas.

La situación se complica aún más por el hecho de que el público en general tiende a confiar más en las conclusiones hechas por computadoras que en las palabras de los políticos. Si el Departamento de Salud y Servicios Humanos de EE.UU.

comienza a publicar informes generados por redes neuronales, a la comunidad científica le resultará extremadamente difícil refutar estos argumentos. Después de todo, argumentar contra números y gráficos respaldados por una inteligencia misteriosa y poderosa es psicológicamente más difícil que argumentar contra un personaje público. Estamos entrando en una era de datos alternativos, donde la IA podría convertirse no en asistente del médico, sino en el arma principal en una guerra informacional contra la medicina basada en evidencia.

Y estaremos lidiando con las consecuencias de este experimento durante mucho tiempo.

Lo esencial: ¿Podrá la comunidad científica crear un sistema de pesos y contrapesos, o nos espera una era en la que los estándares médicos serán dictados por algoritmos con una dirección de búsqueda predeterminada?