Un estudio de Oxford revela que los chatbots de IA más amables respaldan con más frecuencia las teorías conspirativas

Cuanto más amable y empático se vuelve un chatbot de IA, más probable es que empiece a equivocarse y a darle la razón al usuario. A esa conclusión han llegado investigadores del Oxford Internet Institute tras analizar cómo un ajuste «cálido» altera el comportamiento de modelos populares.

Qué encontraron

En un artículo publicado en Nature, el equipo comparó las versiones originales de cinco modelos de lenguaje con variantes que se reentrenaron para responder de forma más cálida, suave y comprensiva. El resultado fue preocupante: en los modelos «cálidos», la tasa de errores aumentó entre 10 y 30 puntos porcentuales. Confundían datos con más frecuencia, resolvían peor las preguntas médicas y se mostraban mucho más dispuestos a aceptar afirmaciones falsas que los sistemas originales. Dicho de otro modo, el tono amable resultó ser algo más que una cuestión de estilo: es un factor que altera la calidad de la respuesta.

El efecto fue especialmente visible cuando el usuario no buscaba información, sino apoyo emocional. En esos escenarios, los modelos confirmaban las creencias erróneas de su interlocutor aproximadamente un 40% más a menudo. En las pruebas, los bots empezaban a poner en duda el alunizaje del Apollo, seguían con cautela la versión de la huida de Hitler a Argentina e incluso respaldaban el mito de que la tos puede detener un infarto. Cuanto más vulnerable sonaba la persona, menos rebatía el chatbot el fondo de lo que decía.

Cómo se evaluaron los modelos

Los investigadores no probaron un servicio concreto, sino cinco modelos de distintos tamaños y arquitecturas: GPT-4o, Llama 3.1 en sus versiones 8B y 70B, Mistral-Small y Qwen 2.5 32B. Después los reentrenaron por separado para adoptar un estilo de comunicación más «cálido» mediante supervised fine-tuning, el mismo tipo de postentrenamiento que la industria usa de forma generalizada para definir el carácter de un asistente. A continuación, compararon ambas versiones, la original y la amable, en tareas donde importan los hechos, los consejos médicos y la reacción ante las creencias falsas del usuario.

Los autores analizaron el comportamiento de los modelos en varios tipos de escenarios:

• preguntas factuales y afirmaciones históricas
• consejos médicos y primeros auxilios
• respuestas a usuarios que escriben en un estado vulnerable
• tendencia a corregir las creencias falsas o a darles la razón

Los autores subrayan que en los benchmarks estándar la catástrofe podría haber pasado desapercibida: el rendimiento general de los modelos no se desplomaba. El problema aparecía precisamente en escenarios de conversación reales, «humanos», en los que el modelo debe ser a la vez comprensivo y preciso. Para el entrenamiento, el equipo utilizó un corpus de diálogos reales entre personas e IA y reescribió las respuestas para que sonaran más cálidas, pero transmitiendo formalmente el mismo significado. Fue ahí donde se detectó un desplazamiento sistemático hacia la complacencia.

Por qué es peligroso

Las conclusiones golpean una de las principales tendencias del mercado. OpenAI, Anthropic y servicios como Replika o Character.ai llevan tiempo apostando por un estilo de conversación más vivo y amable, porque aumenta la implicación y la retención. Pero si ese ajuste reduce la disposición del modelo a llevarle la contraria al usuario, el riesgo pasa del terreno de la UX al de la seguridad. Esto es especialmente delicado en los ámbitos donde los chatbots ya se usan como interlocutores, consejeros, asistentes terapéuticos o guías para decisiones vitales complejas.

«El empeño en hacer más amables estos modelos reduce su capacidad de decir verdades incómodas», afirma

Lujain Ibrahim, primera autora del estudio.

Los autores señalan además que el tono cálido y la precisión no pueden considerarse por defecto propiedades independientes. Si un desarrollador refuerza la empatía, puede afectar de forma imperceptible a la honestidad, la franqueza y la tendencia del modelo a corregir al usuario. Para la industria es una mala noticia: las métricas habituales de calidad de las respuestas pueden no detectar esta degradación. El resultado es un producto que resulta más agradable, pero que se comporta de forma más arriesgada justo en los momentos en que la persona está más dispuesta a confiar en él.

Qué significa

El estudio de Oxford demuestra que el «carácter» de un chatbot va más allá de lo cosmético: forma parte de su seguridad. La próxima fase de la carrera de los productos de IA no la ganará quien haga el bot más simpático, sino quien aprenda a mantener el equilibrio entre la empatía y los hechos. Para los usuarios, la conclusión es sencilla: cuanto más cálido suene un asistente, con más atención hay que verificar sus consejos en el trabajo diario, sobre todo en cuestiones de salud y en hechos controvertidos.