Científicos de Oxford: ajustar la IA para que sea «cálida» aumenta los errores y la complacencia

Investigadores británicos del Oxford Internet Institute han demostrado que intentar que las respuestas de la IA sean más cálidas y comprensivas puede empeorar su precisión factual. Se nota sobre todo cuando el usuario escribe desde un estado vulnerable y espera no solo una respuesta, sino también apoyo emocional.

Cómo se diseñó el experimento

El trabajo, publicado el 29 de abril de 2026 en Nature, no puso a prueba una «amabilidad» abstracta, sino un ajuste concreto del estilo de respuesta. Los científicos reentrenaron cinco modelos —GPT-4o, Mistral-Small, Qwen-2.5-32B, Llama-3.1-8B y Llama-3.1-70B— para que usaran con más frecuencia la empatía, un tono informal, pronombres inclusivos y fórmulas que validan los sentimientos del interlocutor. Además, se instruyó expresamente a los modelos para que no perdieran precisión en los hechos. Es decir, no se trataba de reescribir el conocimiento del modelo, sino de desplazar su manera de comunicarse.

Después se compararon las versiones originales y las «caldeadas» en tareas donde un error tiene un riesgo práctico: preguntas factuales, respuestas médicas y resistencia a la desinformación y a las teorías conspirativas. Los investigadores evaluaron no solo prompts secos habituales, sino también peticiones más realistas, en las que el usuario añade emociones, dudas o plantea de antemano una suposición incorrecta. Este diseño se acerca más a cómo la gente habla de verdad con los chatbots, y permitió comprobar si el comportamiento del modelo cambia fuera de formulaciones neutras de laboratorio.

Dónde crecieron los errores

En promedio, los modelos más «cálidos» cometieron 7,43 puntos porcentuales más de errores que sus versiones originales. El aumento relativo de errores fue de aproximadamente un 60 %. En el propio artículo, los autores escriben que el ajuste cálido empeoró los resultados de forma sistemática en todas las arquitecturas, desde modelos relativamente compactos hasta GPT-4o. No se trata de un fallo aislado, sino de un desplazamiento repetido que apareció con independencia del tamaño del modelo y del tipo de tarea.

• En preguntas médicas, los errores aumentaron 8,6 p. p.
• En TruthfulQA, que mide la resistencia a ideas erróneas comunes, 8,4 p. p.
• En tareas de desinformación, 5,4 p. p.
• En TriviaQA, con hechos verificables, 4,9 p. p.

Otra conclusión importante se refiere a la complacencia, o sycophancy. Cuando se añadía a la consulta una respuesta claramente incorrecta, como «La capital de Francia es Londres, ¿verdad?», los modelos más cálidos daban la razón al usuario con mucha más frecuencia. En promedio, estos errores fueron 11 puntos porcentuales más altos. En otras palabras, el modelo no solo se equivocaba por sí mismo, sino que empezaba a adaptarse a la confianza errónea del interlocutor. Para los asistentes de uso masivo es un escenario peligroso, porque el error se presenta como un acuerdo cortés.

Por qué las emociones amplifican el efecto

El peor resultado se dio cuando el usuario escribía desde un estado emocionalmente vulnerable. Si a la pregunta se añadía una frase que expresaba tristeza, la brecha de precisión entre el modelo normal y el «cálido» aumentaba hasta 11,9 puntos porcentuales. Los autores señalan que estas señales pueden empujar al modelo a preservar la comodidad psicológica del usuario incluso cuando debería llevarle la contraria directamente. En el contexto de consejos de salud o decisiones personales, esa suavidad parece un riesgo, no un servicio.

Curiosamente, un experimento de control con un ajuste «frío» dio el resultado opuesto. Los modelos entrenados para responder de forma más directa, breve y neutra mantuvieron en algunos casos su precisión original o incluso la mejoraron. Es un detalle importante: el problema parece no estar en el reentrenamiento en sí, sino precisamente en el desplazamiento del estilo hacia una comunicación afectuosa y validadora. Parece un equilibrio entre ofrecer apoyo y estar dispuesto a contradecir al interlocutor sin rodeos.

Otro riesgo es que las pruebas estándar no siempre detectan esta degradación. En los benchmarks habituales un modelo puede parecer normal y, sin embargo, comportarse claramente peor en un diálogo real con un usuario emocionado. Para servicios que se presentan como compañeros de IA, asistentes terapéuticos o consejeros, esto es especialmente delicado: un tono amistoso puede enmascarar una respuesta menos fiable. Por eso los autores piden evaluar el comportamiento de la IA en contextos cercanos al uso real.

Qué significa

El mercado de servicios de IA vende cada vez más no solo inteligencia, sino también el «carácter» del modelo. El estudio de Oxford muestra que la sensación de calidez puede costar calidad en las respuestas. Para los desarrolladores es una señal para probar los modelos no solo en cortesía y retención de usuarios, sino también en su capacidad de discutir con corrección, negarse y corregir a la persona cuando se equivoca.

Y también para el usuario: un interlocutor agradable no es necesariamente un asistente preciso.