AREX-2, modelo chinês baseado em 27B, supera sistema de 1,6 trilhão de parâmetros

Um modelo de 27 bilhões de parâmetros superou, segundo pesquisadores chineses, um sistema de 1,6 trilhão. A diferença de tamanho é de quase 60 vezes. O grupo AREX, formado pela Academia de Inteligência Artificial de Pequim (BAAI), pela Universidade de Ciência e Tecnologia da China (USTC) e pela Universidade Renmin da China, apresentou o AREX-2. O modelo usa como base o enxuto Qwen3.8-27B e foi treinado com dados de "reflexão longa" extraídos de tarefas de aprendizado de máquina e de programação algorítmica.

Reflexão em vez de mais parâmetros

O caminho habitual para um modelo forte em programação é aumentar o número de parâmetros, ampliar o corpus e adicionar aprendizado por reforço em tarefas verificáveis. O AREX-2 toma outro rumo. Os autores estruturaram os dados de treinamento em torno de um ciclo longo de "tentativa, análise, correção". Nele, o modelo não se limita a uma única passada: volta à própria solução, identifica o ponto fraco e reformula o algoritmo.

A escolha do domínio não é aleatória. Na engenharia de ML e na programação algorítmica, o resultado é mensurável: o código passa nos testes ou não, a métrica sobe ou cai. Por isso o feedback é confiável, e é possível coletar e validar longas trajetórias de melhoria.

Por que a comparação entre 27B e 1,6T chama atenção

O destaque da pesquisa está no contraste de tamanho. Se medições independentes confirmarem o resultado declarado, ele reforçará uma tendência antiga: em tarefas restritas e fáceis de verificar, a qualidade depende cada vez mais da estrutura dos dados e do procedimento de treinamento, e não da quantidade de parâmetros.

Para engenheiros, isso tem consequências práticas. Um modelo na escala de 27B cabe em alguns aceleradores e custa bem menos para operar do que sistemas de trilhões de parâmetros. Dá para implantá-lo dentro da empresa, fazer ajuste fino e executá-lo em ciclos longos de agentes, nos quais cada token a mais custa dinheiro.

RSI como estrutura de trabalho

Os autores associam o trabalho ao autoaperfeiçoamento recursivo (RSI): a capacidade de um sistema de melhorar iterativamente os próprios algoritmos. A ideia é que um modelo capaz de refinar código para tarefas de ML de forma longa e consciente se aproxima, aos poucos, de melhorar os próprios processos de ML. Na formulação deles, isso abre a porta para a evolução autônoma da inteligência. Por ora, trata-se de um primeiro passo em uma área limitada, e não de um sistema totalmente autoaperfeiçoável.

Principais parâmetros do lançamento:

• Modelo: AREX-2
• Arquitetura base: Qwen3.8-27B (cerca de 27 bilhões de parâmetros)
• Dados de treinamento: longas cadeias de reflexão em ML e programação algorítmica
• Comparação declarada: superioridade sobre um modelo na escala de 1,6 trilhão de parâmetros
• Desenvolvedores: grupo AREX; BAAI, USTC e Universidade Renmin da China
• Estrutura da pesquisa: autoaperfeiçoamento recursivo (RSI)

O que as equipes que constroem agentes devem verificar

Equipes que desenvolvem agentes de código e de pesquisa devem olhar com atenção para o esquema em si. Se você tem tarefas com verificação automática, é possível coletar não só as soluções finais corretas, mas também as trajetórias de correção: o que foi tentado, por que não funcionou, como a abordagem mudou. Esse tipo de dataset ensina o modelo a lidar com o erro, e não apenas a reproduzir uma resposta pronta.

Antes de adotar, são necessárias medições independentes. Primeiro, é preciso descobrir em quais benchmarks e em que condições o AREX-2 supera o modelo grande: a limitação do domínio pode influenciar bastante as conclusões. Depois, é preciso confirmar que o ganho se mantém em tarefas fora da distribuição de treinamento e em horizontes longos, nos quais os erros se acumulam. Se esses testes forem superados, modelos compactos treinados com reflexão passarão a ser uma alternativa real aos gigantes caros para agentes de engenharia.