Apple ML Research: cómo los modelos de difusión aprenden a elegir tokens sin heurísticas manuales

En julio de 2026, Apple ML Research publicó un estudio sobre el entrenamiento de políticas de revelado de tokens para modelos de lenguaje de difusión. En lugar de heurísticas manuales, que requieren ajuste y ofrecen resultados inestables, propone entrenar el propio proceso de selección del token.

Qué son los modelos de lenguaje de difusión

Los modelos de lenguaje de difusión (dLLMs) difieren de forma fundamental de las arquitecturas autorregresivas habituales, como GPT o Claude. Un modelo autorregresivo construye el texto de forma secuencial, token a token de izquierda a derecha. Un modelo de difusión funciona de otra manera: parte de un texto completamente «enmascarado» y va «revelando» posiciones poco a poco a lo largo de varias iteraciones.

Según Apple ML Research, los dLLMs actuales ya son comparables en calidad a los autorregresivos en muchas tareas aplicadas, y además prometen una ventaja en velocidad de inferencia. Como el modelo puede revelar varios tokens en un solo paso, en teoría se puede lograr un mayor rendimiento con menor coste computacional.

Por qué la elección del token lo decide todo

En cada paso de la difusión, el modelo debe responder a una pregunta: ¿cuál de los tokens enmascarados restantes debe revelar a continuación? Esta cuestión, en apariencia técnica, influye directamente tanto en la calidad del texto generado como en la velocidad.

El enfoque ingenuo, elegir el token al azar, resulta ser la peor estrategia. Los investigadores de Apple señalan que la heurística de confidence thresholding da resultados sensiblemente mejores: el modelo revela primero las posiciones en las que su confianza (probability score) es más alta.

Datos clave sobre las heurísticas actuales:

• El confidence thresholding mejora la calidad de la muestra frente al revelado aleatorio
• La estrategia aumenta el token throughput, es decir, el número de tokens por unidad de tiempo
• Su inconveniente es la necesidad de ajustar manualmente los parámetros para cada tarea
• El rendimiento de la heurística es inestable y varía según la aplicación

Qué propone Apple en lugar de reglas manuales

La idea central del trabajo es sustituir las heurísticas fijas por una política de revelado entrenable. En vez de que el desarrollador elija a mano los umbrales y ajuste los parámetros para cada escenario, el modelo aprende por sí mismo la estrategia óptima de selección de tokens.

«Estas heurísticas tienen inconvenientes: requieren ajuste manual y su rendimiento...» — del resumen del estudio de

Apple ML Research.

El principio no es nuevo en el aprendizaje automático: sustituir heurísticas humanas por estrategias optimizadas automáticamente es el camino habitual del «ajuste manual» al «aprendizaje a partir de datos». Aplicado a los modelos de difusión, este enfoque podría descubrir estrategias de revelado de tokens que un desarrollador humano no habría ideado de antemano, y no exige recalibrar al pasar a tareas nuevas.

Qué significa

Los modelos de lenguaje de difusión atraen atención como uno de los enfoques alternativos prometedores para la arquitectura de los grandes modelos de lenguaje, sobre todo por su eficiencia de inferencia. Si las políticas de revelado pueden entrenarse automáticamente y superan de forma consistente a las heurísticas manuales, se eliminaría una barrera práctica clave para usar dLLMs en entornos industriales, donde el coste y la velocidad de generación son críticos.

Preguntas frecuentes

¿En qué se diferencian los modelos de lenguaje de difusión de GPT?

Los modelos autorregresivos como GPT generan texto de forma secuencial, un token cada vez. Los modelos de lenguaje de difusión parten de un texto completamente enmascarado y lo «revelan» de forma iterativa en varios pasos, lo que permite procesar varias posiciones en paralelo y, potencialmente, acelerar la inferencia.

¿Qué es el confidence thresholding en el contexto de los dLLMs?

Es una heurística según la cual, en cada paso de la difusión, el modelo revela primero la posición en la que su confianza es más alta. Apple ML Research muestra que esto mejora tanto la calidad del texto como la velocidad de generación frente al revelado aleatorio, pero exige ajustar manualmente los parámetros.