Los chatbots de IA más populares se equivocan en más del 80 % de los diagnósticos, según un estudio

Los populares bots de IA de consumo desempeñan mal el papel de diagnosticador digital. Un estudio mostró que, al intentar establecer un diagnóstico médico a partir de un conjunto limitado de síntomas, se equivocan en más del 80 % de los casos.

Cómo se probaron los bots

Los investigadores no evaluaron sistemas médicos especializados, sino chatbots masivos, a los que los usuarios acuden para obtener una respuesta rápida a cualquier pregunta. Se les plantearon escenarios con datos incompletos sobre el paciente, más o menos como una persona describe cómo se siente en un primer mensaje: sin análisis, sin exploración y sin las preguntas aclaratorias de un médico.

La tarea parecía sencilla: relacionar los síntomas con una causa probable. Pero justo en ese modo apareció el problema principal: una respuesta segura, coherente y cómoda en la forma a menudo no coincidía con la conclusión clínicamente correcta.

Este formato, además, se parece mucho al comportamiento real de los usuarios. Rara vez alguien acude a un bot con una historia clínica bien organizada: lo habitual son unas pocas frases sobre dolor, temperatura, debilidad o un síntoma inusual que se quiere explicar rápido, sin pedir cita en una clínica. Por eso la prueba medía en la práctica no la capacidad abstracta del modelo para razonar sobre medicina, sino su idoneidad en un escenario cotidiano, donde surge la tentación de sustituir la consulta con un especialista por una respuesta instantánea del chat.

De dónde vienen los errores

Los modelos generalistas resumen bien información general, explican términos y condensan datos en una respuesta compacta. Pero el diagnóstico médico funciona de otra manera: hay que manejar la incertidumbre, descartar opciones parecidas, tener en cuenta escenarios raros pero peligrosos y, a veces, admitir con honestidad que faltan datos. Un bot de consumo tiende a cerrar la consulta con una respuesta de apariencia útil, en lugar de detenerse en una formulación segura y derivar a la persona a un especialista.

Otro problema es que un chatbot masivo no mantiene un diálogo diagnóstico completo. Puede hacer un par de preguntas aclaratorias, pero no contrasta hipótesis de forma sistemática, no coteja las respuestas con mediciones objetivas y no asume responsabilidad clínica por el resultado. Incluso cuando el modelo acierta la orientación general, se le escapan con facilidad detalles que para un médico cambian toda la conclusión: la duración de los síntomas, enfermedades concomitantes, medicamentos, edad, operaciones recientes o la evolución del empeoramiento.

El problema se agrava cuando los síntomas coinciden en decenas de afecciones y el usuario los describe con imprecisión o demasiado brevemente. En esas condiciones el modelo completa el cuadro según una plantilla y comprime la incertidumbre en una única respuesta segura, cuando en la práctica real un médico probablemente mantendría varias hipótesis y pediría pruebas adicionales. Eso hace que el error pase especialmente inadvertido para el usuario.

El resultado son fallos típicos:

• el bot confunde afecciones con síntomas parecidos
• resta urgencia a casos potencialmente peligrosos
• da un único diagnóstico seguro donde hace falta una lista de posibilidades
• no separa la información de referencia de la decisión médica

Por qué es peligroso

El riesgo principal no es que el bot se equivoque a veces, sino que lo hace de forma convincente. Para el usuario, un tono tranquilo y seguro puede parecer señal de competencia, aunque detrás de la respuesta no haya ni exploración, ni acceso a la historia clínica, ni revisión de análisis. Quien recibe un falso alivio puede aplazar la visita al médico, pasar por alto un empeoramiento o elegir mal qué hacer en las primeras horas, cuando la rapidez de reacción es especialmente importante.

Este escenario es especialmente peligroso cuando los síntomas se parecen a algo inofensivo pero en realidad requieren una evaluación urgente: por ejemplo, dolor intenso, dificultad para respirar, trastornos neurológicos o signos de infección. En esos casos el error no es una simple formulación imprecisa en un chat, sino tiempo perdido. Los bots de consumo están optimizados para la comodidad de la conversación y la sensación de utilidad, no para un triaje médico conservador, en el que es mejor derivar una vez de más al médico que pasar por alto una señal crítica.

Eso no significa que la IA sea inútil en medicina. Estos sistemas pueden ayudar a formular las molestias, explicar el significado de los términos, preparar preguntas para la consulta o recordar qué datos conviene reunir antes de ella. Pero como herramienta para establecer diagnósticos, los chatbots masivos siguen siendo poco fiables, sobre todo cuando hay poca información, los síntomas son difusos y el coste del error es alto. En ese papel es más sensato usarlos como capa preparatoria y de consulta antes de acudir al médico, no como árbitro final.

Qué significa

La conclusión del estudio es bastante dura: los bots de IA populares no deben considerarse un sustituto del médico, aunque encuentren información rápido y hablen con seguridad. Para los usuarios, es el límite de la confianza; para las empresas, una señal de que los escenarios médicos exigen un ajuste específico, la revisión de especialistas y una presentación muy cuidadosa de las respuestas.