Como ajustar uma IA para novas tarefas sem perder suas capacidades

Pesquisadores da Apple desenvolveram o DynaMiCS, método para ajustar modelos de IA a novas tarefas sem perder suas capacidades básicas, o seguimento de instruções nem o conhecimento de segurança.

Por que as abordagens atuais não dão conta?

Ajustar um LLM em vários domínios ao mesmo tempo é rotina em qualquer laboratório que lança produtos de IA. A meta parece simples: melhorar o modelo nos domínios-alvo (medicina ou direito, por exemplo) e preservar os chamados "domínios restritivos", capacidades básicas que não podem ser degradadas em hipótese alguma.

Na prática, equilibrar os dois lados é difícil. As estratégias atuais de mistura de dados oferecem duas soluções insatisfatórias. A primeira são as heurísticas fixas: proporções de dados por domínio definidas de antemão, que ficam constantes durante todo o treinamento e não reagem ao estado atual do modelo. A segunda são as regras adaptativas: algoritmos que ajustam os pesos com base em sinais de métricas, mas sem garantias formais explícitas.

Nenhuma das abordagens consegue manter explicitamente os domínios restritivos em um nível definido. Com isso, as equipes ou testam proporções na mão ou aceitam perdas imprevisíveis em benchmarks importantes de segurança e instruções.

Como funciona o DynaMiCS

O DynaMiCS reformula o ajuste fino como um problema de otimização com restrições (constrained optimization). Em vez de definir o equilíbrio entre domínios de forma branda, por meio de uma perda agregada ou pesos manuais, o algoritmo separa explicitamente objetivos e restrições.

A cada passo do treinamento, o DynaMiCS trabalha em três etapas:

• Executa rodadas curtas de "sondagem" (probing runs) em cada domínio, estimando a dinâmica local das métricas.
• Constrói uma matriz de inclinações (slope matrix), uma estimativa de como a mudança na fatia de dados de um domínio afeta os resultados de todos os outros.
• Resolve um problema de otimização: encontrar a proporção de dados que mais melhora os domínios-alvo, cumprindo rigorosamente as restrições dos domínios restritivos.

A novidade central está nas restrições matemáticas explícitas, e não na regularização branda. O algoritmo não "tenta" preservar a segurança ou as instruções: ele garante isso formalmente a cada iteração. As rodadas de sondagem são rápidas e não exigem um ciclo completo de treinamento, o que torna o método aplicável sem aumento significativo do custo computacional.

Onde se aplica

O problema que o DynaMiCS resolve surge sempre que uma empresa adapta um modelo base a um produto específico:

• Seguimento de instruções: habilidade básica que não pode se degradar nem com especialização restrita.
• Conhecimento geral: o assistente precisa responder corretamente a perguntas fora do seu domínio especializado.
• Segurança: os resultados das avaliações de segurança precisam ser preservados em qualquer ajuste fino, principalmente em setores regulados.

Para a Apple, que vem integrando modelos de linguagem ao Apple Intelligence, a camada de IA do sistema no iPhone, iPad e Mac, uma ferramenta assim tem valor prático direto. Os modelos precisam se especializar nas tarefas de cada aplicativo, manter a versatilidade e passar nas verificações internas de segurança. O DynaMiCS oferece uma forma ​formal de atender aos dois requisitos ao mesmo tempo.

A abordagem vale também fora da Apple: qualquer empresa que adapta modelos a tarefas corporativas com requisitos rígidos de segurança e instruções enfrenta o mesmo problema de equilíbrio.

O que isso significa

O DynaMiCS propõe uma abordagem matematicamente rigorosa para um problema que a maioria das equipes de ML resolvia manualmente ou por tentativa e erro. A publicação da Apple ML Research mostra que o trabalho na infraestrutura básica de ajuste fino continua nas grandes empresas de tecnologia com modelos fechados. Se o método for reproduzível e escalar para tamanhos reais de modelo, pode entrar nos pipelines padrão de empresas que trabalham com LLMs multidomínio e exigem preservação rigorosa das capacidades básicas.

O que é ajuste fino de IA?

É o processo de treinar um modelo de linguagem já pronto com novos dados para especializá-lo em tarefas e domínios específicos.

Como não perder qualidade no ajuste fino?

É preciso otimizar corretamente a mistura de dados, o que permite preservar as capacidades básicas do modelo. É justamente isso que o método DynaMiCS faz.