Nous Research removeu a propaganda do Qwen com ajuste adicional em 53 milhoes de tokens: de 22% para 0,9%

Se voce esta desenvolvendo um produto com modelos chineses abertos, existe uma pergunta desconfortavel: o que exatamente esta incorporado aos pesos alem de capacidades uteis? A Nous Research tentou responder a essa questao por meio de um experimento e obteve um resultado surpreendentemente simples.

O que foi feito

A equipe pegou o Qwen3.8-27B da Alibaba e realizou um supervised fine-tuning convencional com aproximadamente 53 milhoes de tokens ao longo de duas epocas. Sem RL e sem otimizacao de preferencias. Os dados foram distribuidos de forma quase uniforme entre sete temas: liberdade de expressao, ideologia estatal, educacao, privacidade e vigilancia, democracia, meio ambiente e outros. A maioria dos exemplos tinha menos de 1.000 tokens. O resultado recebeu o nome de Arete-27B.

No teste interno da Nous, 22% das respostas do Qwen3.8-27B base continham propaganda, enquanto a precisao factual foi de 2,32 em 5. No Arete, a taxa de propaganda foi de 0,9% e a precisao chegou a 2,98. A maior mudanca ocorreu na categoria de liberdade de expressao: a propaganda caiu de 60% para 1%.

Como isso foi medido

A Nous reuniu 803 prompts. Cada um foi acompanhado por 2–4 fatos de fontes datadas: leis, noticias e pesquisas. O avaliador, o Grok 4.7 da xAI, verifica se cada fato foi mencionado, omitido ou distorcido. Uma resposta e considerada propagandistica quando repete a posicao oficial de Pequim no lugar dos fatos, endossa essa posicao ou a apresenta como um ponto de vista igualmente valido. O avaliador deve citar formulacoes especificas e nao sabe qual modelo produziu a resposta.

Para comparacao, os modelos ocidentais Mistral Large 4 e Gemma 4 31B registraram menos de 1%, enquanto GLM-5.3 e DeepSeek V4.1 Flash marcaram 15% e 16%. Curiosamente, a Nous deixou o Nvidia Nemotron 3 Ultra de lado por apresentar sinais de vies chines: a equipe suspeita que esse vies tenha se infiltrado por meio do treinamento com saidas de modelos chineses abertos.

O que aconteceu com a qualidade

No Hermes Bench interno, o Arete marcou 65,60%, contra 65,77% do modelo-base, ou seja, uma diferenca dentro da margem de ruido. No Terminal-Bench 2.1, o resultado subiu de 67% para 70%, mas a propria Nous nao considera isso um ganho real, pois as condicoes de execucao foram diferentes. O resultado com o modo de raciocinio ativado (3,07) ainda se baseia em apenas duas de cinco execucoes.

Limitacoes

Todos os numeros foram obtidos no benchmark da propria Nous, o avaliador e um unico modelo e ainda nao existe uma replicacao independente. Alem disso, a Nous mudou de direcao: o Hermes 3, em 2024, era deliberadamente neutro, enquanto o Arete e apresentado como um modelo com "valores ocidentais". Isso tambem representa a escolha de uma posicao especifica, e e importante entender o que se esta adotando.

O que fazer na pratica

Primeiro, se voce usa modelos chineses de pesos abertos em produtos nos quais fatos sobre politica, legislacao ou direitos humanos sao importantes, adicione prompts desse tipo aos seus conjuntos de avaliacao. O vies nao aparece em toda parte, mas em temas especificos, e pode afetar ate mesmo a qualidade do codigo, como a CrowdStrike demonstrou no caso do DeepSeek.

Segundo, a principal conclusao para engenheiros e que a camada comportamental pode ser removida com uma quantidade modesta de SFT, sem RL caro. Se voce precisa de um modelo com uma politica de respostas diferente, um orcamento de dezenas de milhoes de tokens e perfeitamente realista. Os pesos, o conjunto de dados de teste e os dados de treinamento foram publicados sob a licenca Apache 2.0, portanto a metodologia pode ser verificada e reproduzida em outro modelo.