Flow matching: velocity scaling reduziu o FID de 28,0 para 12,2 no ImageNet-256

Escalar o campo de velocidade aprendido no flow matching mostrou recentemente um ganho expressivo de qualidade na geração. Um novo artigo no arXiv (cs.CV) não contesta o efeito em si, mas muda a explicação para ele e propõe um jeito de escolher o coeficiente por medição, em vez de às cegas. O resultado: o FID no ImageNet-256, com 25 avaliações da função (NFE 25) e sem guidance, cai de 28,0 para 12,2. Os autores estimam esse valor por interpolação linear entre medições de FID em valores vizinhos de gain.

O que se tomou por causa

No flow matching, o modelo v_θ aprende a prever a velocidade com que um ponto se move do ruído até os dados. O sampler integra esse campo ao longo do tempo. A técnica em questão multiplica a velocidade prevista por um coeficiente γ(t). Um trabalho anterior explicava o ganho assim: o treinamento com erro quadrático médio (MSE) subestima sistematicamente a magnitude da velocidade, e o escalonamento a devolve ao valor correto.

Os autores do novo artigo discordam. Eles afirmam que o treinamento com MSE não cria déficit na magnitude da velocidade. Como o escalonamento funciona mesmo assim, o mecanismo tem de ser outro.

Atraso temporal da população

A explicação proposta se chama population time lag. Os estados que o sampler recebe no instante t do modelo se parecem com estados de treinamento de um instante anterior. A amostra fica, por assim dizer, defasada no tempo em relação ao que o modelo aprendeu naquele t. Assim, o campo de velocidade é aplicado a pontos mais "jovens" do que o modelo espera.

Daí surgem duas formas de correção, que o artigo trata como equivalentes:

• multiplicar a velocidade pelo gain γ(t), para que a trajetória alcance mais rápido o estágio desejado;
• deslocar o tempo do modelo para trás, de modo a fornecer à rede o tempo que corresponde ao estado real do ponto.

Ambas compensam o mesmo atraso. É por isso que o escalonamento funcionava, embora a explicação original fosse outra.

Medir em vez de ajustar

A principal conclusão prática: o atraso pode ser medido. Os autores o medem e o usam para escolher o gain. Segundo os dados deles, isso funciona em diferentes arquiteturas e tamanhos de modelo.

Números principais do resumo:

• dataset e resolução: ImageNet-256;
• orçamento de amostragem: NFE 25;
• guidance: não utilizado;
• FID antes: 28,0;
• FID depois: 12,2 (estimativa por interpolação linear entre valores vizinhos de gain);
• abrangência: diferentes arquiteturas e tamanhos de modelo.

Vale destacar que o 12,2 não foi obtido por medição direta em um único ponto. Trata-se de uma interpolação entre dois valores de gain medidos. Para entender a escala do efeito, isso basta, mas a reprodutibilidade exata deve ser verificada nos seus próprios checkpoints. O resumo não informa como o resultado se relaciona com guidance, com orçamentos maiores de NFE ou com outros datasets.

O que fazer na prática

Para uma equipe que treina ou ajusta modelos de flow matching para imagens, o artigo sugere alguns passos. Primeiro, verifique se o seu sampler já não usa algum multiplicador de velocidade ou deslocamento no cronograma de tempo. Essas técnicas podem resolver o mesmo problema e se duplicar.

Depois, meça o atraso no seu checkpoint e relacione-o ao valor de gain, em vez de varrer o coeficiente em uma grade guiada pelo FID. A grade é cara, porque cada ponto exige a geração de uma amostra completa. Medir o atraso pode reduzir essa busca.

Por fim, com NFE baixo, onde os erros do sampler aparecem mais, compare as duas variantes: scaling e deslocamento do tempo do modelo. Segundo o artigo, elas são equivalentes em essência, mas, em uma arquitetura e um cronograma de passos específicos, podem diferir em estabilidade. Para pesquisadores, o trabalho levanta ainda uma pergunta mais ampla: quais outros "defeitos" de samplers são, na prática, um descompasso de tempo entre treinamento e inferência. Detalhes e a verificação das conclusões em outros datasets devem ser buscados no texto completo do artigo.