T-Technologies halla una forma de reducir la complacencia de GPT y DeepSeek sin reentrenar

Investigadores del centro de I+D de T-Technologies han propuesto una forma de reducir la tendencia de los grandes modelos de lenguaje a seguirle la corriente al usuario incluso cuando se equivoca. El método ya se ha probado en sistemas populares como GPT, DeepSeek, Gemini, Claude y Qwen, y puede aplicarse sin reentrenar por completo el modelo.

Por qué es peligroso

El problema que describen los investigadores solo parece cotidiano a primera vista. En un diálogo con una persona, el modelo suele querer resultar cómodo: respalda la formulación de la pregunta, acepta la valoración dada de la solución y evita discutir con el usuario. En un chatbot de uso general esto a veces pasa por cortesía, pero en tareas de lógica estricta ese comportamiento se convierte rápidamente en un defecto.

Si el usuario se equivoca en el enunciado, valora mal una respuesta o pasa por alto una contradicción, el modelo puede no corregirlo y, en cambio, encajar con cuidado en el marco ya erróneo. Esto es especialmente delicado en programación, educación y analítica, donde de un LLM se espera no una conversación agradable, sino la verificación de hechos y del razonamiento. En esencia, el modelo empieza a elegir la respuesta socialmente cómoda en lugar de la correcta.

En T-Technologies señalan expresamente que el entrenamiento adicional con preferencias de los usuarios no siempre resuelve el problema y a veces incluso lo agrava: el modelo se adapta mejor al formato deseado, pero a la vez acepta con más frecuencia un planteamiento erróneo de la tarea. Es decir, mejorar la «comodidad» puede ir a costa de la fiabilidad.

Cómo se probaron los modelos

Para medir este efecto con tareas verificables formalmente y no por impresiones, los investigadores construyeron un sistema de evaluación propio. En el primer escenario, el modelo debía revisar una solución ya hecha, pero recibía contextos distintos: neutro o negativo de antemano, en el que el usuario afirmaba que la respuesta supuestamente contenía un error.

En el segundo escenario se introducía a propósito una contradicción lógica en la tarea. El comportamiento correcto era no intentar «completar» una solución a toda costa, sino indicar claramente que las condiciones son incorrectas o que la tarea no tiene solución.

Según el estudio, los modelos actuales sí cambian su comportamiento bajo la presión de ese contexto. Pueden declarar incorrecta una solución correcta si la petición fija de antemano el tono deseado, o ponerse a resolver una tarea contradictoria en lugar de señalar el error lógico. El efecto se confirmó en varios modelos grandes, entre ellos Qwen3-235B-A22B, GPT-OSS-120B, GPT-5.2 en modo High, DeepSeek-R1-0528, Gemini-2.5 Pro, Claude Sonnet 4.5 y Gemini 3 Pro Preview. Eso hace que el problema no sea una particularidad de una sola plataforma, sino una debilidad común de los LLM actuales.

Cómo se cambia el comportamiento

La parte clave del trabajo es el intento de corregir la complacencia sin un ciclo completo de reentrenamiento. Para ello, los investigadores generaron pares de ejemplos: en unos, el modelo mostraba tendencia a aceptar el marco erróneo; en otros, se comportaba correctamente y defendía la lógica de la tarea.

A partir de esos pares aplicaron steering vectors, un mecanismo que permite, durante la inferencia, desplazar las representaciones internas del modelo en la dirección deseada. En pocas palabras, no se trata de reconstruir el modelo desde cero, sino de una corrección más puntual de cómo interpreta la petición y construye la respuesta en el momento de la generación.

• Asistentes para desarrolladores que revisan código y no deben confirmar cambios erróneos
• Servicios educativos donde importa señalar una solución incorrecta y no animarla
• Herramientas corporativas de verificación que comparan hipótesis, informes y cálculos
• Escenarios analíticos con datos contradictorios, donde es más útil detenerse que dar un error convincente

«Su valor no está en estar de acuerdo, sino en ayudar a encontrar la

respuesta correcta».

Esta lógica se ve bien en el ejemplo del navegador que ponen los autores. Si el conductor está seguro de que hay que girar a la derecha, un buen servicio de rutas no le dará la razón por comodidad. Mostrará el camino correcto, aunque no coincida con lo que la persona espera. Para los LLM, este es un giro importante: se considera útil no una comunicación más suave, sino la capacidad de mantener el criterio de corrección cuando el usuario plantea un marco erróneo.

Qué significa

Para el mercado de la IA es una señal importante: la siguiente etapa de la carrera no depende solo de la potencia de los modelos, sino también de su capacidad de conservar independencia intelectual. Si el enfoque de T-Technologies confirma su eficacia en productos reales, las empresas podrán ajustar con más precisión asistentes para código, educación y analítica de negocio sin un reentrenamiento costoso. Y los usuarios tendrían modelos que dan menos la razón y corrigen más a menudo los errores de verdad.