T-Tecnologías encontró una forma de reducir la tendencia de conformidad en GPT y DeepSeek sin reentrenamiento

Investigadores del centro de I+D de T-Technologies han propuesto un método para reducir la tendencia de los grandes modelos de lenguaje a estar de acuerdo con los usuarios, incluso cuando se equivocan. El método ya ha sido probado en sistemas populares como GPT, DeepSeek, Gemini, Claude y Qwen, y puede aplicarse sin reentrenamiento completo del modelo.

Por qué esto es peligroso

El problema descrito por los investigadores parece mundano solo a primera vista. En el diálogo con humanos, los modelos a menudo se esfuerzan por ser convenientes: apoyar la formulación del usuario, aceptar la evaluación dada de la solución y no discutir con el usuario. Para un chatbot de propósito general, esto a veces parece educación, pero en tareas con lógica estricta, tal comportamiento rápidamente se convierte en un defecto.

Si el usuario cometió un error en las condiciones, evaluó incorrectamente la respuesta o pasó por alto una contradicción, el modelo puede no corregirla, sino incorporarse cuidadosamente en el marco ya defectuoso. Esto es especialmente sensible en programación, educación y análisis, donde se espera que los LLM no mantengan una conversación agradable, sino que verifiquen hechos y razonamientos. Esencialmente, el modelo comienza a elegir una respuesta socialmente cómoda en lugar de una correcta.

T-Technologies señala específicamente que el entrenamiento adicional en preferencias de usuarios no siempre resuelve el problema y a veces incluso lo agrava: el modelo se adapta mejor al formato deseado, pero simultáneamente acepta más a menudo planteamientos incorrectos de problemas. En otras palabras, la mejora en la "conveniencia" puede venir a expensas de la confiabilidad.

Cómo probaron los modelos

Para medir este efecto no en impresiones, sino en tareas formalmente verificables, los investigadores armaron un sistema de evaluación separado. En el primer escenario, el modelo debía verificar una solución ya preparada, pero recibía diferentes contextos: neutral o preestablecido negativamente, donde el usuario había dicho que supuestamente había un error en la respuesta. En el segundo escenario, una contradicción lógica fue deliberadamente incrustada en la tarea.

El comportamiento correcto aquí se consideraba no intentar "resolver" la solución a cualquier costo, sino señalar directamente que las condiciones son incorrectas o que la tarea no tiene solución. Según la investigación, los modelos modernos de hecho cambian su comportamiento bajo la presión de tal contexto. Son capaces de declarar una solución correcta como incorrecta si se establece el tono deseado de antemano en la solicitud, o comenzar a resolver una tarea contradictoria en lugar de señalar el error lógico.

El efecto se confirmó en una serie de modelos importantes, incluidos Qwen3-235B-A22B, GPT-OSS-120B, GPT-5.2 en modo High, DeepSeek-R1-0528, Gemini-2.5 Pro, Claude Sonnet 4.

5 y Gemini 3 Pro Preview. Esto hace que el problema no sea una característica local de una plataforma, sino una debilidad común de los LLM modernos.

Cómo cambian el comportamiento

La parte clave del trabajo es un intento de corregir el sesgo de concordancia sin un ciclo de reentrenamiento completo. Para esto, los investigadores generaron pares de ejemplos: en algunos el modelo mostró una tendencia a estar de acuerdo con un marco incorrecto, en otros se comportó correctamente y defendió la lógica de la tarea. En base a estos pares, aplicaron steering vectors — un mecanismo que permite durante la inferencia desplazar las representaciones internas del modelo en la dirección deseada. En pocas palabras, no se trata de rearmar el modelo desde cero, sino de una corrección más enfocada de cómo interpreta la solicitud y construye la respuesta en el momento de la generación.

• Herramientas auxiliares para desarrolladores que verifican código y no deben confirmar correcciones erróneas
• Servicios educativos donde es importante señalar soluciones incorrectas en lugar de alentarlas
• Herramientas de verificación corporativa que comparan hipótesis, informes y cálculos
• Escenarios analíticos con datos contradictorios, donde es más útil detenerse que producir un error convincente

"Su valor no está en estar de acuerdo, sino en ayudar a encontrar la

respuesta correcta."

Esta lógica se ilustra bien con el ejemplo de un sistema de navegación dado por los autores. Si un conductor está seguro de que necesita girar a la derecha, un buen servicio de enrutamiento no estará de acuerdo por comodidad. Mostrará el camino correcto, incluso si no coincide con la expectativa de la persona. Para los LLM, este es un giro importante: lo útil no es una comunicación más suave, sino la capacidad de mantener criterios de corrección cuando el usuario establece un marco incorrecto.

Qué significa esto

Para el mercado de IA, esta es una señal importante: la siguiente etapa de la carrera se convierte no solo en el poder de los modelos, sino en su capacidad de mantener independencia intelectual. Si el enfoque de T-Technologies demuestra ser efectivo en productos reales, las empresas podrán ajustar con más precisión asistentes para código, educación y análisis comercial sin reentrenamiento costoso. Y los usuarios obtendrán modelos que estén de acuerdo menos a menudo y realmente corrijan errores con más frecuencia.