Flow matching: el velocity scaling reduce el FID de 28,0 a 12,2 en ImageNet-256

El escalado del campo de velocidad aprendido en flow matching ha mostrado recientemente una mejora notable en la calidad de generación. Un nuevo trabajo en arXiv (cs.CV) no cuestiona el efecto en sí, pero cambia su explicación y propone elegir el coeficiente a partir de una medición, en lugar de probar a ciegas. El resultado: el FID en ImageNet-256, con 25 evaluaciones de la función (NFE 25) y sin guidance, baja de 28,0 a 12,2. Los autores estiman este valor mediante interpolación lineal entre las mediciones de FID obtenidas con valores de gain vecinos.

Lo que se tomó por causa

En flow matching, el modelo v_θ aprende a predecir la velocidad con la que un punto se mueve del ruido a los datos. El sampler integra este campo a lo largo del tiempo. La técnica en cuestión multiplica la velocidad predicha por un coeficiente γ(t). Un trabajo anterior explicaba la mejora así: el entrenamiento con error cuadrático medio (MSE) subestima de forma sistemática la magnitud de la velocidad, y el escalado la devuelve a su valor correcto.

Los autores del nuevo artículo no están de acuerdo. Afirman que el entrenamiento con MSE no genera ningún déficit en la magnitud de la velocidad. Sin embargo, el escalado funciona, así que el mecanismo debe de ser otro.

Desfase temporal de la población

La explicación propuesta se llama population time lag. Los estados que el sampler recibe en el instante de modelo t se parecen a los estados de entrenamiento de un momento anterior. La muestra va, por así decirlo, retrasada en el tiempo respecto a lo que el modelo aprendió para ese t. El campo de velocidad se aplica entonces a puntos más «jóvenes» de lo que el modelo espera.

De ahí surgen dos formas de corregirlo, que el artículo presenta como equivalentes:

• multiplicar la velocidad por un gain γ(t), para que la trayectoria alcance antes la etapa adecuada;
• retrasar el tiempo del modelo, para dar a la red el tiempo que corresponde al estado real del punto.

Ambas técnicas compensan el mismo desfase. Por eso el escalado funcionaba, aunque su explicación fuera otra.

Medir en lugar de ajustar a ciegas

La conclusión práctica más importante: el desfase se puede medir. Los autores lo miden y lo usan para elegir el gain. Según sus datos, esto funciona en distintas arquitecturas y tamaños de modelo.

Cifras clave de la anotación:

• conjunto de datos y resolución: ImageNet-256;
• presupuesto de muestreo: NFE 25;
• guidance: no se usa;
• FID antes: 28,0;
• FID después: 12,2 (estimación por interpolación lineal entre valores de gain vecinos);
• alcance: distintas arquitecturas y tamaños de modelo.

Conviene señalar aparte que el 12,2 no procede de una medición directa en un único punto. Es una interpolación entre dos valores de gain medidos. Para entender la magnitud del efecto basta con esto, pero la reproducibilidad exacta conviene comprobarla con los checkpoints propios. La anotación no indica cómo se comporta el resultado con guidance, con presupuestos de NFE mayores o con otros conjuntos de datos.

Qué hacer en la práctica

Para un equipo que entrena o afina modelos de flow matching para imágenes, de aquí se desprenden varios pasos. Primero, compruebe si su sampler ya incluye algún multiplicador de velocidad o un desplazamiento del calendario temporal. Estas técnicas pueden resolver el mismo problema y duplicarse entre sí.

Después, mida el desfase en su propio checkpoint y relacione con él el valor de gain, en lugar de recorrer el coeficiente en una rejilla guiada por el FID. La rejilla es cara, porque cada punto exige generar una muestra completa. La medición del desfase puede reducir potencialmente esa búsqueda.

Por último, con un NFE bajo, donde los errores del sampler se notan más, compare dos variantes: scaling y desplazamiento del tiempo del modelo. Según el artículo, son equivalentes en esencia, pero en una arquitectura y un calendario de pasos concretos pueden diferir en estabilidad. Para los investigadores, el trabajo plantea además una pregunta más general: qué otros «defectos» de los samplers son en realidad un desajuste temporal entre entrenamiento e inferencia. Los detalles y la verificación de las conclusiones en otros conjuntos de datos deben buscarse en el texto completo del artículo.