Los modelos de lenguaje de difusión desafían a GPT: récord de 892 tokens por segundo

# Los modelos de difusión reescriben las reglas: 100.000 millones de parámetros, 892 tokens por segundo

La industria de los modelos de lenguaje se encuentra con un desafío inesperado. Unos investigadores han demostrado que los enfoques de difusión para generar texto, considerados durante mucho tiempo lentos e ineficientes, pueden no solo competir con arquitecturas clásicas como GPT, sino también superarlas en velocidad. Un modelo de lenguaje de difusión de 100.000 millones de parámetros alcanzó una velocidad récord de 892 tokens por segundo, una cifra que pone en duda las ideas establecidas sobre cómo deben funcionar los grandes modelos de lenguaje actuales.

El logro es especialmente relevante porque los métodos de difusión llevan años en la periferia de las tareas de texto. Mientras que en visión por computador los modelos de difusión se ganaron un prestigio y revolucionaron la síntesis de imágenes, en el procesamiento de texto ha predominado el paradigma autorregresivo, el mismo en el que se basan ChatGPT y sus competidores. Los modelos autorregresivos predicen el siguiente token a partir de todos los anteriores, lo que exige pasadas secuenciales por la red y ralentiza el proceso.

Los modelos de lenguaje de difusión funcionan de forma radicalmente distinta. En lugar de generar texto palabra a palabra, parten de datos de ruido y refinan gradualmente la salida a lo largo de varias etapas de eliminación de ruido. La paradoja: con un enfoque que, en apariencia, requiere más operaciones de cálculo, el nuevo modelo de 100.

000 millones de parámetros alcanzó 892 tokens por segundo. Es aproximadamente el doble de rápido que las cifras habituales de los modelos autorregresivos actuales de tamaño similar. El avance técnico reside en la optimización del algoritmo de eliminación de ruido y de la arquitectura de la red, que permite procesar en paralelo muchas posiciones del texto en lugar de esperar a que se complete la predicción de un token para pasar al siguiente.

La importancia del resultado va mucho más allá de fijar un récord de velocidad. Escalar con éxito un modelo de difusión hasta 100.000 millones de parámetros demuestra que este enfoque no es un callejón sin salida desde el punto de vista de la ingeniería. Si los modelos de difusión pueden rendir así, abren nuevas vías de optimización. Los fabricantes podrían reducir la latencia, mejorar el rendimiento de los servidores y recortar el consumo energético, factores críticos en una era de costes crecientes de computación en la nube.

Para la industria, esto significa que el futuro de los modelos de lenguaje no tiene por qué estar ligado a la arquitectura autorregresiva. OpenAI, Google DeepMind y otros laboratorios han invertido enormes recursos en optimizar precisamente el enfoque autorregresivo, pero la aparición de una alternativa competitiva podría obligarles a revisar sus estrategias. Las empresas que han invertido en investigar los métodos de difusión obtienen una ventaja tangible. Para los usuarios finales, podría traducirse en respuestas más rápidas de los asistentes de IA, API más baratas y modelos locales más eficientes energéticamente.

Aun así, conviene ser cautos al interpretar los resultados. La velocidad de generación de tokens está lejos de ser el único criterio de calidad de un modelo. También importan la calidad del texto, la capacidad de manejar dependencias de largo alcance y la coherencia lógica. Queda por ver si el enfoque de difusión puede igualar a los autorregresivos en contenido y precisión de las respuestas con los mismos recursos de cómputo.

Este hecho simboliza un momento de transición en la industria de la IA, en el que el paradigma dominante empieza a sentir competencia. Si los modelos de difusión confirman su viabilidad en otros parámetros, podríamos asistir a una verdadera diversidad de arquitecturas en la IA convencional, cada una con sus propias fortalezas.