La nueva IA de Meta pide datos médicos a los usuarios y da consejos dañinos

Meta ha presentado Muse Spark, un modelo con una función de análisis de datos médicos de los usuarios, incluidos los resultados de pruebas de laboratorio. Un periodista de Wired probó la IA y obtuvo un resultado inquietante: el sistema no solo pedía de forma activa datos personales de salud sin procesar, sino que además daba consejos que médicos cualificados calificarían de dañinos. La función funciona así: el usuario sube datos de exámenes médicos —análisis de sangre, resultados de pruebas, valores de biomarcadores— y Muse Spark se encarga de interpretarlos y de ofrecer recomendaciones.

A primera vista parece una herramienta cómoda para quienes tienen dificultades para entender la documentación médica sin un especialista. En la práctica, el panorama es otro. Durante la prueba, el modelo hizo preguntas de seguimiento que implicaban entregar información muy sensible sobre el estado de salud.

Meta, por su parte, no ofrece a los usuarios una respuesta exhaustiva sobre cómo se almacenan, procesan y utilizan después esos datos. Dado que la compañía gana dinero con la publicidad segmentada, esta falta de transparencia genera recelos plenamente justificados. Un problema aún más grave es la calidad de los propios consejos.

La IA interpretó los indicadores médicos de forma superficial, no tuvo en cuenta el contexto individual del paciente y, en varios casos, sacó conclusiones que contradicen las guías clínicas actuales. Un consejo de salud impreciso no es solo una mala experiencia de usuario: es un daño potencial para una persona concreta. El caso de Muse Spark encaja en una tendencia más amplia: las grandes tecnológicas entran cada vez con más fuerza en el terreno de la medicina.

Apple añade funciones de monitorización al Watch, Google desarrolla Med-PaLM y las startups prometen diagnósticos a partir de una foto. La demanda de consultas médicas accesibles es enorme, sobre todo donde conseguir cita con un médico lleva semanas y una consulta privada es cara. Sin embargo, la distancia entre lo que saben hacer los modelos de lenguaje actuales y lo que se exige a un asesor médico sigue siendo considerable.

Un médico no se limita a leer los números de un análisis: tiene en cuenta el historial clínico, los fármacos que toma el paciente y su estilo de vida, y lo ve en su evolución. Un modelo de lenguaje que trabaja con un único documento subido carece de todo ese contexto. La regulación no avanza al ritmo de la tecnología.

En Estados Unidos, el software médico está sujeto al control de la FDA, pero los modelos de lenguaje con funciones de «recomendaciones generales» se encuentran por ahora en una zona gris legal. Meta, al parecer, posiciona deliberadamente Muse Spark como una herramienta de información y no de diagnóstico, lo que le permite evitar los estrictos requisitos de pruebas clínicas. La prueba de Wired es otro recordatorio de que poder hacer algo y estar dispuesto a asumir la responsabilidad son cosas distintas.

Si Meta sabe manejar los datos médicos con responsabilidad es una gran incógnita que, por ahora, sigue sin una respuesta convincente.

*Meta ha sido declarada organización extremista y está prohibida en Rusia.