GPT-6 Astra alterou 0,016% dos pesos do Qwen e elevou a precisão para 48,1%

Quando um pequeno modelo de linguagem entra em ciclos repetitivos, faz cálculos incorretos ou ignora instruções, a receita habitual é conhecida: reunir dados, executar um ajuste fino e verificar se alguma outra coisa foi prejudicada. Pesquisadores do MIT demonstraram outra abordagem. O GPT-6 Astra recebeu acesso aos pesos do modelo, encontrou a região relacionada à falha e reescreveu uma fração minúscula dos parâmetros. Em um experimento com o Qwen3.5-0.8B, a alteração de apenas 0,016% dos pesos elevou a precisão no MATH-500 de 7,9% para 48,1%.

Não se trata de um botão mágico nem de um substituto para o treinamento. Ainda assim, a ideia é bastante prática para equipes que mantêm seus próprios modelos: em vez de executar uma passagem dispendiosa por todo o conjunto de dados, elas podem tentar localizar um defeito interno específico e corrigi-lo de forma pontual.

Como um modelo programa outro modelo

Os pesos de uma rede neural são enormes tabelas de números. Em geral, uma pessoa não consegue simplesmente examiná-los e entender para que a rede foi treinada ou por que ela se comporta de determinada maneira. Nos experimentos, o Astra conseguiu realizar parte dessas tarefas: identificou o jogo para o qual uma pequena rede havia sido treinada, reconheceu o tipo de imagens produzido por um gerador e associou pequenos modelos de linguagem aos idiomas usados em seu treinamento. Tudo isso sem os dados de treinamento originais e, em alguns casos, até mesmo sem executar o próprio modelo.

O exemplo mais claro envolve jogos de computador simples. Os pesquisadores forneceram ao Astra as regras e o código, e ele criou diretamente os pesos de redes capazes de jogar. No Breakout, uma dessas redes obteve uma média de 517 pontos, contra 25 do modelo de referência, que havia sido treinado pelo método convencional durante mais de 100 milhões de rodadas. No entanto, em outros dois jogos, os modelos treinados por mais tempo ainda foram superiores. Portanto, ainda não se trata de uma vitória sobre o treinamento clássico, mas de uma nova forma de trabalhar com tarefas pequenas e bem delimitadas.

Em um experimento com Go em um tabuleiro de 9×9, o Astra controlou uma rede com aproximadamente 1,5 milhão de parâmetros. Ele recebeu 50 iterações: em cada uma, a rede disputava até 128 partidas de treinamento, enquanto o Astra estudava o resultado e ajustava os pesos. O modelo resultante superou uma rede de tamanho comparável treinada em aproximadamente 20 milhões de partidas.

O que aconteceu com o Qwen

O Qwen3.5-0.8B tinha um problema conhecido: o modelo podia entrar em um ciclo e repetir seu raciocínio sem chegar a uma resposta. O Astra recebeu um ambiente para trabalhar com código, tarefas de treinamento e 50 tentativas para produzir uma correção. O resultado foi então avaliado em outros exemplos, que ele não havia visto durante o ajuste.

Depois da alteração de 0,016% dos parâmetros, a precisão no MATH-500 subiu de 7,9% para 48,1%, enquanto o indicador de cumprimento de instruções avançou de 21% para 62%. A parcela de respostas que atingiam o tamanho máximo caiu de 93% para aproximadamente 33%. Esse número ainda é alto, por isso é cedo para considerar o problema resolvido.

O resultado negativo também é revelador. No Gemma 3 270M, que praticamente não sofria com esses ciclos, o Astra não conseguiu produzir uma melhoria mensurável. Os autores sugerem que o Qwen já possuía as capacidades matemáticas necessárias, mas uma falha interna impedia que fossem utilizadas. O Astra removeu esse "freio", em vez de inserir uma nova habilidade no modelo.

O que os desenvolvedores devem fazer

Por enquanto, o Weight-Space Programming deve ser visto como uma ferramenta de pesquisa. Ele pode ser útil para encontrar defeitos, realizar auditorias de segurança e corrigir de forma pontual o comportamento de modelos pequenos. Mas ainda é cedo para transferir os resultados para grandes LLMs de produção: os experimentos são limitados, ainda não existe um teste universal e parte das tarefas exigiu a execução do modelo e o uso dos resultados como feedback.

A conclusão prática é simples. Se uma equipe mantém um modelo pequeno e especializado, vale a pena acompanhar essa linha de pesquisa e preservar testes comportamentais detalhados: são eles que permitem determinar se um reparo pontual é melhor que um ajuste fino completo. No entanto, os pesos de um modelo em produção não devem ser alterados sem uma avaliação independente, testes de regressão e a possibilidade de reversão. O reparo pontual parece mais barato que o treinamento, mas o custo de um erro não desaparece.