Doctor YouTube: Google AI Overviews confía en blogueros más que en médicos

Imagina que intentas descubrir la causa de un repentino dolor de pecho y, en lugar de un electrocardiograma, tu médico te sugiere ver un vlog reciente de un popular bloguero de estilo de vida. Suena como un escenario absurdo de una serie de ciencia ficción, pero para los usuarios de Google, esto se está convirtiendo en una realidad cotidiana. Un nuevo estudio de especialistas alemanes ha arrojado luz sobre cómo funcionan exactamente los algoritmos de Google AI Overviews, y los resultados son preocupantes, por decir lo menos. Resulta que cuando se trata de cuestiones de vida o muerte, la inteligencia artificial de Google prefiere citar YouTube en lugar de portales médicos especializados.

El contexto aquí es extremadamente importante. Después de lanzar AI Overviews, Google enfrentó una ola de críticas por consejos extraños como añadir pegamento a la pizza. En ese momento, la dirección aseguró a todos que para temas "sensibles", como medicina o finanzas, la IA utiliza solo las fuentes más confiables y verificadas como los CDC o la Clínica Mayo.

Sin embargo, los datos reales cuentan una historia diferente. En su afán por mantener a los usuarios dentro de su propio ecosistema, parece que Google se olvidó de la seguridad. Los investigadores descubrieron que los enlaces a la plataforma de alojamiento de vídeos aparecen en los resúmenes de IA significativamente más a menudo que artículos de revistas médicas revisadas por pares.

El problema aquí no es solo que Google promociona su propio servicio. El verdadero problema radica en la naturaleza del YouTube mismo. Es una plataforma donde el contenido se crea por vistas y compromiso, no por precisión diagnóstica. Un video puede estar perfectamente optimizado para búsquedas, tener millones de likes y aún así contener pseudociencia. El modelo de IA, entrenado en estos datos, no siempre puede distinguir entre un cirujano profesional y un entusiasta de la medicina alternativa. Como resultado, el usuario obtiene una respuesta "confiada" basada en un video que el algoritmo consideró relevante simplemente por su popularidad.

¿Por qué está sucediendo esto ahora? Google se encuentra en una guerra feroz por el mercado de búsqueda con OpenAI y Perplexity. Para no perder su audiencia, la empresa necesita entregar respuestas rápidas, visuales y atractivas.

El texto de una referencia médica es aburrido y árido, mientras que un video de YouTube es un escenario listo para usar que fácilmente puede convertirse en un resumen breve. El contenido visual se indexa mejor y es más fácil de consumir, lo que lo hace un combustible ideal para la IA generativa. Pero cuando se trata de la salud de dos mil millones de personas, esta optimización comienza a parecerse a un juego de ruleta rusa donde el bienestar público está en juego.

Además, esta estrategia de Google perjudica a toda la industria de contenido médico de calidad. Si la IA extrae hechos de videos y los presenta como propios, los usuarios no tienen razón para visitar sitios web de comunidades profesionales. A largo plazo, esto llevará a que los recursos de calidad simplemente se queden sin presupuesto para crear contenido verificado, y el panorama informativo se llenará completamente de "expertos" de las redes sociales. Corremos el riesgo de terminar en una situación donde la única fuente de conocimiento sobre enfermedades sea la curaduría algorítmica basada en hype, no en medicina basada en evidencias.

Lo esencial: Google eligió el camino de mantener el tráfico dentro de su propio ecosistema a costa de la calidad de los datos. ¿Estamos dispuestos a confiar nuestra salud a un algoritmo para el cual la popularidad de un video importa más que un diploma de médico?