Ao vivo 18/11 · Turma 318 nov às 19:00 MSK — aula prática gratuita de agentes de IA · Turma 3 ao vivo começa 23/11Aula 18/11 →Turma 3 (23/11)

Zerando menos de 0,05% dos pesos, pesquisadores ensinam algo novo a uma LLM grande com resultado igual ao do fine-tuning

Normalmente, uma nova habilidade é adicionada reescrevendo os pesos. O Deletion Tuning faz o contrário: apenas zera parte dos pesos existentes. Nos maiores modelos, bastaram menos de 0,05% dos parâmetros, ou seja, menos de 5 em cada 10 000. O único componente treinado é uma máscara "manter ou zerar" para as camadas MLP. A qualidade igualou a do fine-tuning completo, e a precisão em tarefas antigas caiu no máximo 1 ponto. Com isso, um mesmo modelo pode alternar entre habilidades usando máscaras de poucos megabytes. O método ainda tem limitações. Modelos menores às vezes alcançam apenas 90% da precisão da atualização densa. Adaptadores bf16 de posto 1 sem compressão costumam ocupar menos espaço que as máscaras. E o fine-tuning sequencial não foi testado, enquanto o treinamento exige muito mais memória.

Processado por IA de TG: @gonzo_ML (gonzo-обзоры ML статей); editado por Hamidun News
Zerando menos de 0,05% dos pesos, pesquisadores ensinam algo novo a uma LLM grande com resultado igual ao do fine-tuning
Fonte: TG: @gonzo_ML (gonzo-обзоры ML статей). Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalTG: @gonzo_ML (gonzo-обзоры ML статей) ↗
Editor-chefe
Dado-chave #1Modelos pequenos às vezes chegam a apenas 90% da precisão da atualização densa
Dado-chave #2Adaptadores bf16 de posto 1 sem compressão costumam ser menores que as máscaras
Dado-chave #3O fine-tuning sequencial não foi testado, e o consumo de memória é bem maior

Imagine que você tenha em produção um único modelo de linguagem grande, e os clientes precisem de habilidades diferentes: um quer um agente que chame ferramentas, outro quer raciocínio passo a passo. Normalmente, isso se resolve reescrevendo todos os pesos do modelo (fine-tuning completo) ou acoplando um adaptador pequeno, como o LoRA. Os pesquisadores Jack Lu, Mengye Ren e colegas propuseram um terceiro caminho, o Deletion Tuning: em vez de acrescentar qualquer coisa, zerar uma fração minúscula dos pesos que já existem.

Nos maiores modelos testados, bastou zerar menos de 0,05% dos parâmetros, ou seja, menos de cinco pesos em cada dez mil, e a qualidade igualou a do fine-tuning completo. Para quem opera muitas variantes de um mesmo modelo, é uma ideia de engenharia interessante, embora ainda esteja longe de virar uma ferramenta pronta.

Como ensinar um modelo apenas removendo

Pense em um grande livro de receitas. Em vez de acrescentar páginas, você risca algumas linhas, e o cozinheiro passa a preparar o prato de outro jeito. O método funciona mais ou menos assim. O modelo original fica congelado. O único elemento treinado é uma máscara binária para as projeções de gate dos blocos MLP, a parte da camada que decide quais sinais passam adiante. Para cada peso, a máscara diz "manter" ou "zerar". Os pesos mantidos não mudam em nada.

É assim que modelos pré-treinados aprendem novas habilidades de raciocínio e uso de ferramentas sem que nenhum peso novo seja gravado. As capacidades anteriores não sofrem com isso.

O que os testes mostraram

Em grande escala, o Deletion Tuning igualou o fine-tuning completo, a forma mais cara de adaptação, em que todos os pesos são atualizados. Os autores também verificaram separadamente se o modelo esquece o que sabia. Após o treinamento por reforço, a precisão em tarefas antigas caiu no máximo 1 ponto em relação ao modelo base. Um ponto significa, por exemplo, uma queda de 80% para 79%.

Com modelos pequenos, o resultado é pior: eles às vezes alcançam apenas cerca de 90% da precisão da atualização densa, isto é, do fine-tuning convencional de todos os pesos. Isso sugere que o método funciona melhor em redes grandes. Talvez seja mais fácil encontrar nelas pesos que podem ser desligados sem perdas, mas essa é uma suposição nossa, não uma conclusão dos autores.

Para que serve na prática

O principal ganho está na inferência, ou seja, no atendimento com o modelo já pronto. Se uma habilidade é armazenada como uma máscara de bits de alguns megabytes, um único modelo compartilhado na memória da GPU pode alternar entre tarefas. Para um cliente, ativa-se a máscara "agente com ferramentas"; para outro, a de "raciocínio". As habilidades antigas continuam no lugar. Os autores publicaram o código e as máscaras treinadas no Hugging Face, então é possível testar a ideia por conta própria.

Ressalvas

Primeiro, o ganho de tamanho não é garantido. Adaptadores de posto 1 em formato bf16, sem compressão, costumam ocupar menos espaço que a máscara. Por isso, como forma de armazenar muitas variantes de um modelo de maneira mais compacta que o LoRA, o método ainda não parece um vencedor óbvio.

Segundo, o próprio treinamento da máscara exige muito mais memória que o de um adaptador pequeno. Para equipes com um parque limitado de GPUs, isso é uma desvantagem séria.

Terceiro, o trabalho não testou o fine-tuning sequencial, situação em que o modelo recebe uma habilidade, depois outra, depois uma terceira. É justamente assim que as equipes de produto costumam trabalhar. Não se sabe se as máscaras poderiam ser sobrepostas sem conflitos.

Conclusão

O Deletion Tuning continua sendo um trabalho de pesquisa, não uma ferramenta que valha a pena levar para produção amanhã. Mas ele mostra que um modelo grande pré-treinado já traz mais capacidades embutidas do que se costuma imaginar, e que às vezes é possível liberá-las zerando centésimos de ponto percentual dos pesos. Se você está montando um serviço multitarefa sobre um único modelo compartilhado, vale conferir o artigo e o código. Se os problemas de memória no treinamento e de fine-tuning sequencial forem resolvidos, máscaras de megabytes podem se tornar uma alternativa prática aos adaptadores.

História

Perguntas frequentes sobre a notícia

Como ensinar um modelo apenas removendo?

Pense em um grande livro de receitas. Em vez de acrescentar páginas, você risca algumas linhas, e o cozinheiro passa a preparar o prato de outro jeito. O método funciona mais ou menos assim. O modelo original fica congelado. O único elemento treinado é uma máscara binária para as projeções de gate dos blocos MLP, a parte da camada que decide quais sinais passam adiante. Para cada peso, a máscara diz "manter" ou "zerar". Os pesos mantidos não mudam em nada.

O que os testes mostraram?

Em grande escala, o Deletion Tuning igualou o fine-tuning completo, a forma mais cara de adaptação, em que todos os pesos são atualizados. Os autores também verificaram separadamente se o modelo esquece o que sabia. Após o treinamento por reforço, a precisão em tarefas antigas caiu no máximo 1 ponto em relação ao modelo base. Um ponto significa, por exemplo, uma queda de 80% para 79%.

O que se sabe sobre Para que serve na prática?

O principal ganho está na inferência, ou seja, no atendimento com o modelo já pronto. Se uma habilidade é armazenada como uma máscara de bits de alguns megabytes, um único modelo compartilhado na memória da GPU pode alternar entre tarefas. Para um cliente, ativa-se a máscara "agente com ferramentas"; para outro, a de "raciocínio". As habilidades antigas continuam no lugar. Os autores publicaram o código e as máscaras treinadas no Hugging Face, então é possível testar a ideia por conta própria.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…