Apple ML Research desenvolve DynaMiCS para ajuste fino de LLMs sem perda de conhecimento base

Apple ML Research publicou um estudo em 7 de julho de 2026 descrevendo DynaMiCS — um método para otimização dinâmica da mistura de dados ao fazer o ajuste fino de grandes modelos de linguagem em múltiplos domínios simultaneamente. O trabalho aborda um dos desafios práticos centrais no desenvolvimento de LLM: como especializar um modelo para tarefas específicas sem degradar habilidades base chave — seguimento de instruções, conhecimento geral e segurança.

Por que as abordagens existentes não funcionam

O ajuste fino de LLMs em múltiplos domínios simultaneamente é uma tarefa rotineira para qualquer laboratório produzindo produtos de IA. A tarefa parece simples: melhorar o modelo em domínios-alvo (por exemplo, em medicina ou direito), enquanto preserva os chamados "domínios restritivos" — habilidades base que não podem ser degradadas sob nenhuma circunstância.

Na prática, isso se mostra ser um ato de equilíbrio difícil. As estratégias atuais de mistura de dados oferecem duas soluções insatisfatórias. A primeira opção é heurística fixa: proporções de dados predeterminadas por domínio que permanecem constantes durante todo o treinamento e não respondem ao estado atual do modelo. A segunda opção é regras adaptativas: algoritmos que ajustam pesos com base em sinais de métricas, mas sem garantias formais explícitas.

Nenhuma abordagem pode explicitamente garantir preservação de domínios restritivos em um nível especificado. Como resultado, as equipes ou buscam manualmente através de proporções ou aceitam perdas imprevisíveis em benchmarks chave de segurança e seguimento de instruções.

Como DynaMiCS funciona

DynaMiCS reformula o ajuste fino como um problema de otimização com restrições. Em vez de estabelecer compromissos de domínio suavemente — através de perda agregada ou pesos manuais — o algoritmo separa explicitamente objetivos e restrições.

Em cada etapa do treinamento, DynaMiCS opera em três estágios:

• Executa "rodadas de sondagem" curtas em cada domínio, avaliando a dinâmica local de métricas.
• Constrói uma matriz de inclinação — uma estimativa de como mudar a proporção de dados de um domínio específico afeta métricas em todos os outros domínios.
• Resolve um problema de otimização: encontrar uma proporção de dados que melhore maximamente domínios-alvo enquanto impõe restrições rígidas em domínios restritivos.

A inovação principal reside em restrições matemáticas explícitas em vez de regularização suave. O algoritmo não "tenta" preservar segurança ou instruções — ele garante isso formalmente em cada iteração. As rodadas de sondagem são rápidas e não requerem um ciclo de treinamento completo, tornando o método praticamente aplicável sem aumentos significativos nos custos computacionais.

Onde isso é aplicável

A tarefa que DynaMiCS resolve surge sempre que uma empresa adapta um modelo base para um produto específico:

• Seguimento de instruções — uma habilidade base que não pode ser degradada mesmo com especialização estreita.
• Conhecimento geral — um assistente deve responder corretamente a perguntas fora de seu domínio especializado.
• Segurança — os resultados de avaliações de segurança devem ser preservados durante qualquer ajuste fino, especialmente em indústrias reguladas.

Para Apple, que está ativamente incorporando modelos de linguagem em Apple Intelligence — a camada de IA do sistema do iPhone, iPad e Mac — tal ferramenta tem valor prático direto. Os modelos devem se especializar para tarefas de aplicativos específicos enquanto mantêm universalidade e passam em verificações de segurança internas. DynaMiCS oferece uma forma formal de garantir ambos os requisitos simultaneamente.

A abordagem é relevante além de Apple: qualquer empresa adaptando modelos para tarefas empresariais com requisitos rigorosos de segurança e instruções enfrenta o mesmo problema de equilíbrio.

O que isso significa

DynaMiCS oferece uma abordagem matematicamente rigorosa para um problema que a maioria das equipes de ML resolveu manualmente ou através de tentativa e erro. A publicação de Apple ML Research mostra que o trabalho na infraestrutura de ajuste fino continua mesmo em grandes empresas de tecnologia com modelos fechados. Se o método for reproduzível e escalar para tamanhos reais de modelos, ele pode se tornar uma prática padrão em empresas trabalhando com LLMs multidomínio e requisitos rigorosos de qualidade de habilidades base.