La Nueva IA de Meta Solicita Datos Médicos de Usuarios y Ofrece Consejos Dañinos

Meta presentó el modelo Muse Spark con una función para analizar datos médicos de los usuarios, incluidos resultados de pruebas de laboratorio. Un periodista de Wired probó las capacidades de la IA y obtuvo un resultado inquietante: el sistema no solo solicitaba activamente datos de salud personal brutos, sino que también proporcionaba consejos que médicos calificados caracterizarían como perjudiciales.

La función funciona así: un usuario carga datos de examen médico—análisis de sangre, resultados de pruebas, lecturas de biomarcadores—y Muse Spark los interpreta y proporciona recomendaciones. A primera vista, parece una herramienta conveniente para quienes tienen dificultades para entender documentación médica sin un especialista. En la práctica, el panorama es diferente.

Durante las pruebas, el modelo hizo preguntas aclaratorias que requerían compartir información de salud altamente sensible. Sin embargo, Meta no proporciona a los usuarios una respuesta integral sobre cómo se almacenan, procesan y utilizan exactamente estos datos. Dado que la empresa se beneficia de la publicidad dirigida, esta falta de transparencia genera preocupaciones bien fundadas.

Un problema aún más grave es la calidad de los propios consejos. La IA interpretó las métricas médicas superficialmente, no tuvo en cuenta el contexto individual del paciente y en varios casos llegó a conclusiones que contradicen las recomendaciones clínicas actuales. Los consejos de salud imprecisos no son simplemente una mala experiencia del usuario; son un daño potencial para una persona específica.

La situación de Muse Spark se ajusta a una tendencia más amplia: las grandes empresas de tecnología están entrando cada vez más en el dominio médico. Apple está agregando funciones de monitoreo a Watch, Google está desarrollando Med-PaLM, las startups prometen diagnóstico a partir de fotos. La demanda de asesoramiento médico accesible es enorme—especialmente donde las citas con el médico toman semanas y las consultas privadas son caras. Sin embargo, la brecha entre lo que los modelos de lenguaje actuales pueden hacer y lo que se requiere de un asesor médico sigue siendo significativa.

Un médico no solo lee los números en una prueba—considera el historial médico, medicamentos tomados, estilo de vida y ve al paciente a lo largo del tiempo. Un modelo de lenguaje que trabaja con un único documento cargado carece de todo este contexto.

El panorama regulatorio no está siguiendo el ritmo de la tecnología. En los EE.UU., el software médico está bajo el control de la FDA, pero los modelos de lenguaje con funciones de "recomendaciones generales" actualmente existen en una zona gris legal. Meta aparentemente posiciona deliberadamente Muse Spark como una herramienta informativa en lugar de una herramienta de diagnóstico—esto le permite evitar requisitos estrictos de pruebas clínicas.

La prueba de Wired es otro recordatorio de que la capacidad de hacer algo y la disposición de asumir responsabilidad por ello son cosas diferentes. Si Meta puede manejar datos médicos de manera responsable es una gran pregunta que sigue sin una respuesta convincente.