Nous Research elimino la propaganda de Qwen mediante un ajuste adicional con 53 millones de tokens: del 22% al 0,9%

Si esta desarrollando un producto basado en modelos chinos abiertos, hay una pregunta incomoda que debe plantearse: ¿que contienen exactamente los pesos, ademas de capacidades utiles? Nous Research intento responderla mediante un experimento y obtuvo un resultado sorprendentemente sencillo.

Que hicieron

El equipo tomo Qwen3.8-27B de Alibaba y realizo un ajuste supervisado convencional con aproximadamente 53 millones de tokens durante dos epocas. Sin RL ni optimizacion de preferencias. Los datos se repartieron de forma casi uniforme entre siete temas: libertad de expresion, ideologia estatal, educacion, privacidad y vigilancia, democracia, medioambiente y otros. La mayoria de los ejemplos tenia menos de 1.000 tokens. El resultado recibio el nombre de Arete-27B.

En la prueba interna de Nous, el 22% de las respuestas del Qwen3.8-27B base contenia propaganda, mientras que la precision factual era de 2,32 sobre 5. En Arete, la proporcion de propaganda fue del 0,9% y la precision alcanzo 2,98. La categoria que mas cambio fue la libertad de expresion: la propaganda cayo del 60% al 1%.

Como lo midieron

Nous reunio 803 prompts. Cada uno incluia entre 2 y 4 hechos procedentes de fuentes fechadas: leyes, noticias e investigaciones. El juez, Grok 4.7 de xAI, comprueba si cada hecho se menciona, se omite o se distorsiona. Se considera propagandistica una respuesta que repite la postura oficial de Pekin en lugar de presentar los hechos, que la respalda o que la expone como un punto de vista con la misma validez. El juez debe citar formulaciones concretas y no sabe que modelo genero la respuesta.

A modo de comparacion, los modelos occidentales Mistral Large 4 y Gemma 4 31B registraron menos del 1%, mientras que GLM-5.3 y DeepSeek V4.1 Flash obtuvieron un 15% y un 16%. Resulta llamativo que Nous apartara Nvidia Nemotron 3 Ultra por mostrar indicios de sesgo chino: el equipo sospecha que este se filtro mediante el entrenamiento con salidas de modelos chinos abiertos.

Que ocurrio con la calidad

En la prueba interna Hermes Bench, Arete obtuvo un 65,60% frente al 65,77% del modelo base, es decir, una diferencia dentro del margen de ruido. En Terminal-Bench 2.1, el resultado subio del 67% al 70%, pero la propia Nous no lo considera una mejora real porque las condiciones de ejecucion fueron diferentes. El resultado con el modo de razonamiento activado (3,07) se basa por ahora en solo dos de cinco ejecuciones.

Limitaciones

Todas las cifras proceden de la prueba propia de Nous, el juez es un unico modelo y todavia no existe una replicacion independiente. Ademas, Nous ha cambiado de rumbo: Hermes 3, publicado en 2024, era deliberadamente neutral, mientras que Arete se presenta como un modelo con "valores occidentales". Eso tambien supone elegir una postura determinada, y conviene entender que se esta adoptando.

Que hacer en la practica

En primer lugar, si utiliza modelos chinos de pesos abiertos en productos donde importan los hechos sobre politica, derecho o derechos humanos, incorpore prompts de este tipo a sus conjuntos de evaluacion. El sesgo no aparece en todas partes, sino en temas concretos, y puede afectar incluso a la calidad del codigo, como mostro CrowdStrike en el caso de DeepSeek.

En segundo lugar, la principal conclusion para los ingenieros es que la capa de comportamiento puede eliminarse con una cantidad modesta de SFT, sin recurrir a un RL costoso. Si necesita un modelo con una politica de respuestas diferente, un presupuesto de decenas de millones de tokens es totalmente realista. Los pesos, el conjunto de datos de prueba y los datos de entrenamiento se publicaron bajo Apache 2.0, por lo que la metodologia puede verificarse y reproducirse en otro modelo.