Consistent Distribution Matching comprime la difusión a 1 paso con un FID de 2,04

Los modelos de difusión y flow generan imágenes de calidad, pero lo pagan con el número de pasos de integración numérica. Un grupo de autores propone Consistent Distribution Matching (CDM), un método de destilación que acelera estos modelos sin dataset, sin ejecuciones del profesor y sin redes auxiliares. En ImageNet 256×256, el estudiante logra un FID de 2,04 con una sola evaluación de la función (1-NFE) y de 1,37 con cuatro (4-NFE). El entrenamiento dura 40 épocas. Según el artículo, el resultado supera a los mejores métodos base de destilación que funcionan sin datos. El código y el modelo están publicados en consistentdmd.github.io.

Qué falla en la destilación actual

La idea de la destilación es sencilla: el estudiante aprende a reproducir la dinámica del profesor para obtener en uno o dos pasos lo que el profesor consigue en decenas. En la práctica, los enfoques existentes acumulan una larga lista de dependencias. Unos necesitan un dataset de destilación recopilado expresamente. Otros requieren costosas ejecuciones del profesor, es decir, la simulación completa de trayectorias para generar pares de entrenamiento. Y otros exigen redes proxy auxiliares que hay que entrenar en paralelo al modelo principal.

Cada una de estas dependencias complica el escalado. El dataset hay que almacenarlo y depurarlo, las ejecuciones del profesor consumen cómputo y la red adicional introduce hiperparámetros y riesgo de inestabilidad en el entrenamiento. Los autores de CDM apuntan precisamente a esta capa de costes de ingeniería.

Cómo funciona CDM

La clave está en que una sola red, el estudiante, cumple dos tareas a la vez: genera muestras y estima el score (el gradiente del logaritmo de la densidad). En los esquemas con una red proxy independiente, estas funciones suelen estar separadas. Aquí se unifican, de modo que en el entrenamiento participan solo dos modelos: el profesor congelado y el estudiante entrenable. Se optimiza una única función objetivo.

El artículo describe al estudiante como un flow-map, es decir, una aplicación que transforma ruido en una muestra. Los autores demuestran que minimizar su objective implica convergencia en el sentido de Wasserstein: las distribuciones obtenidas al proyectar (pushforward) a través del flow-map del estudiante se aproximan a las distribuciones marginales del profesor. Es una garantía teórica de que el estudiante se ajusta a la distribución del profesor y no solo a puntos favorables en una métrica.

El método se denomina data-free y simulation-free. El entrenamiento no requiere imágenes reales ni obliga a ejecutar el profesor a lo largo de toda la trayectoria.

Métricas clave

• Benchmark: ImageNet 256×256.
• 1-NFE: FID 2,04.
• 4-NFE: FID 1,37.
• Presupuesto de entrenamiento: 40 épocas.
• Componentes: profesor congelado y estudiante entrenable, una sola función de pérdida.
• Datos para la destilación: no se utilizan.
• Teoría: demostrada la convergencia en el sentido de Wasserstein para el pushforward del flow-map.
• Lanzamiento: código y modelo en abierto.

Qué conviene verificar en la práctica

Todas las cifras del artículo corresponden a generación condicionada por clase en ImageNet 256×256. Es un banco de pruebas estándar, pero bastante acotado. No hay motivos para extrapolar el resultado a modelos text-to-image con miles de millones de parámetros, prompts largos y alta resolución. Confirmar la escalabilidad será la principal incógnita de CDM. Conviene contrastar la afirmación de los autores sobre la comparación con los mejores métodos base sin datos con las tablas del propio artículo y con reproducciones sobre el código abierto.

Para quienes construyen inferencia de producto con generación de imágenes o vídeo, el método resulta interesante por tres razones. Primero, no hace falta preparar un dataset para la destilación, lo que resuelve un problema aparte cuando los profesores son cerrados o tienen licencias complicadas. Segundo, un pipeline de dos modelos y una sola pérdida es más fácil de mantener y más barato de depurar. Tercero, un paso con FID de 2,04 y cuatro pasos con FID de 1,37 sugieren un compromiso cómodo: se puede elegir entre máxima velocidad y calidad sin reentrenar desde cero.

El primer paso lógico para un equipo es tomar el código publicado, repetir la destilación con un modelo flow propio de tamaño reducido y medir el FID con 1 y 4 pasos. Conviene comparar de inmediato el coste en horas de GPU con la receta actual, porque el ahorro en datos y en ejecuciones del profesor importa tanto como la propia métrica.