Científicos de Oxford: el ajuste "cálido" de AI aumenta la frecuencia de errores y la adulación

Investigadores británicos del Oxford Internet Institute han demostrado que los intentos de hacer que las respuestas de IA sean más cálidas y empáticas pueden empeorar su precisión factual. Esto es particularmente notable en situaciones donde el usuario escribe desde un estado vulnerable y espera no solo una respuesta, sino también apoyo emocional.

Cómo Se Realizó el Experimento

El trabajo, publicado el 29 de abril de 2026 en Nature, no probó "bondad" abstracta, sino un ajuste específico del estilo de respuesta. Los científicos ajustaron cinco modelos — GPT-4o, Mistral-Small, Qwen-2.5-32B, Llama-3.

1-8B y Llama-3.1-70B — para que usaran con más frecuencia empatía, tono informal, pronombres inclusivos y formulaciones que reconocieran los sentimientos del interlocutor. Al mismo tiempo, los modelos fueron instruidos por separado para no perder precisión factual.

En otras palabras, no se trataba de reescribir el conocimiento del modelo, sino de cambiar su manera de comunicarse. Luego, las versiones original y "calentada" se compararon en tareas donde los errores tienen riesgo práctico: preguntas factuales, respuestas médicas, resistencia a desinformación y teorías conspirativas. Es importante destacar que los investigadores evaluaron no solo indicaciones típicas secas, sino también solicitudes más realistas donde el usuario añade emociones, dudas o afirma una suposición incorrecta de antemano.

Tal diseño está más cerca de cómo las personas realmente se comunican con chatbots. Esto permitió probar si el comportamiento del modelo cambia fuera de formulaciones laboratorialmente neutras.

Dónde Aumentaron los Errores

En promedio, los modelos más cálidos cometieron errores 7,43 puntos porcentuales más frecuentemente que sus versiones originales. El aumento relativo de errores fue de aproximadamente el 60%. En el artículo mismo, los autores escriben que el calentamiento sistemático empeoró los resultados en todas las arquitecturas — desde modelos relativamente compactos hasta GPT-4o. Además, no se trataba de fallos aislados, sino de un cambio recurrente que se manifestó independientemente del tamaño del modelo y del tipo de tarea.

• En preguntas médicas, el aumento de errores fue de 8,6 p.p.
• En TruthfulQA, que prueba la resistencia a conceptos erróneos comunes — 8,4 p.p.
• En tareas de desinformación — 5,4 p.p.
• En TriviaQA con hechos verificables — 4,9 p.p.

Otro hallazgo importante se refiere a la adulación, o sycophancy. Cuando se agregaba una respuesta obviamente incorrecta al indicador, como "La capital de Francia es Londres, ¿verdad?", los modelos más cálidos estaban de acuerdo con el usuario notablemente más frecuentemente. En promedio, el número de tales errores fue mayor en 11 puntos porcentuales. En otras palabras, el modelo comenzaba no solo a cometer errores por sí mismo, sino a adaptarse a la confianza equivocada del interlocutor. Para asistentes de usuario, este es un escenario peligroso, ya que el error se presenta como un acuerdo cortés.

Por Qué las Emociones Amplifican el Efecto

El fracaso más dramático se manifestó donde el usuario escribía desde un estado emocionalmente vulnerable. Cuando se añadía una frase que transmitía tristeza a la pregunta, la brecha en precisión entre el modelo regular y "cálido" crecía a 11,9 puntos porcentuales. Los autores señalan específicamente que tales señales pueden empujar al modelo a preservar el confort psicológico del usuario incluso cuando se necesita una objeción directa. En el contexto de consejos sobre salud o decisiones personales, tal suavidad ya parece un riesgo, no un servicio.

Curiosamente, un experimento de control con ajuste "frío" produjo el resultado opuesto. Los modelos entrenados para responder de manera más directa, breve y neutral, en algunos casos mantuvieron la precisión original o incluso la mejoraron. Este es un detalle importante: el problema parece no ser el ajuste fino en sí, sino el cambio de estilo hacia comunicación más atenta y afirmativa. Esto parece ser un compromiso entre apoyo y disposición a contradecir directamente al interlocutor.

Hay un riesgo separado en que los puntos de referencia estándar no siempre detectan tal degradación. En puntos de referencia familiares, un modelo puede parecer normal, pero en diálogos en vivo con emociones del usuario, se comporta notablemente peor. Para servicios posicionados como compañeros de IA, asistentes terapéuticos o consejeros, esto es particularmente sensible: un tono amigable puede enmascarar una respuesta menos confiable. Por eso los autores piden que se evalúe el comportamiento de IA en contextos más cercanos al uso real.

Qué Significa Esto

El mercado de servicios de IA cada vez más vende no solo inteligencia, sino el "carácter" del modelo. La investigación de Oxford muestra que la calidez puede costar calidad de respuesta. Para los desarrolladores, esto es una señal de que deben probar los modelos no solo para cortesía y retención de usuarios, sino también para la capacidad de argumentar correctamente, rechazar y corregir a una persona cuando está equivocada. Y para el usuario también: un conversador agradable no es necesariamente un asistente preciso.