Hugging Face compara todas las alternativas a LoRA: qué método gana en el ajuste fino de LLM

LoRA se ha convertido en el estándar de facto para el ajuste fino de grandes modelos de lenguaje: es barato, rápido y funciona casi en todas partes sin sorpresas. Hugging Face decidió plantear una pregunta honesta: ¿se puede hacer mejor y, si es así, cuándo?

Por qué LoRA mantiene sus posiciones

LoRA (Low-Rank Adaptation) funciona de forma sencilla: en lugar de actualizar los miles de millones de pesos del modelo, el método añade un par de matrices pequeñas de rango bajo a las capas clave. El número de parámetros entrenables se reduce entre 10 y 1000 veces. Eso hace posible el ajuste fino incluso en GPU de consumo.

Por eso LoRA está en todas partes: se usa para reentrenar Llama y Mistral, para crear estilos personalizados en Stable Diffusion y para adaptar LLM corporativos a las particularidades de un dominio. La biblioteca PEFT de Hugging Face suma cientos de miles de descargas a la semana.

Pero LoRA tiene puntos débiles. Con rangos altos de matriz (rank=64 o más), el entrenamiento se vuelve inestable. En tareas donde importa transmitir con precisión el conocimiento factual, el método a veces queda por detrás del ajuste fino completo. Y con límites de memoria estrictos, por ejemplo al entrenar en una sola tarjeta gráfica económica, incluso LoRA puede resultar demasiado voraz.

Qué probó Hugging Face

El equipo tomó la biblioteca PEFT y realizó una comparación sistemática de LoRA con cinco alternativas en tareas downstream reales:

• DoRA: descompone los pesos en dirección y magnitud y los actualiza de forma independiente, acercando el comportamiento al del ajuste fino completo
• LoRA+: una idea simple: las matrices A y B se entrenan con distintas learning rate, y la B recibe una lr más alta para acelerar la convergencia
• rsLoRA: un coeficiente de normalización que estabiliza los gradientes con valores altos de rank
• VeRA: matrices aleatorias congeladas; solo se entrenan pequeños vectores de escalado, con decenas de veces menos parámetros que LoRA
• GaLore: proyecta los propios gradientes a un espacio de rango bajo y ahorra memoria del optimizador sin cambiar la arquitectura de los pesos

Métricas: calidad en tareas de control (NLU, seguimiento de instrucciones, resumen), consumo máximo de memoria de la GPU y velocidad de una época de entrenamiento.

Quién presiona al líder

No hay un ganador claro: cada método tiene su perfil.

DoRA ofrece de forma constante una calidad algo mejor que LoRA con el mismo número de parámetros y la misma memoria. Se nota sobre todo en tareas de seguimiento de instrucciones y de razonamiento. El precio es un tiempo de entrenamiento ligeramente mayor por la descomposición adicional de los pesos.

rsLoRA no mejora la calidad base, pero elimina la inestabilidad con rangos altos. Si necesitas rank=128 o más, rsLoRA es prácticamente obligatorio; el LoRA clásico empieza ahí a «flotar».

VeRA resulta interesante cuando hay límites estrictos al tamaño del adaptador, por ejemplo al servir miles de adaptadores de usuario en un servidor, pero pierde algo de calidad.

«LoRA sigue siendo la mejor opción por defecto, pero conocer las

alternativas permite sacar el máximo partido en condiciones concretas», resumen los autores del estudio.

GaLore permite entrenar en GPU con poca VRAM sin cambiar la arquitectura de los pesos. Sirve para el preentrenamiento o el preentrenamiento continuado, cuando hay que trabajar con todos los pesos pero la memoria es catastróficamente escasa. Eso sí, el entrenamiento es notablemente más lento.

Qué significa

El ecosistema PEFT madura: en lugar de un único método universal para todos los casos, se forma un conjunto de herramientas. Para los equipos de producto, esto implica una cosa: antes de elegir un método de ajuste fino, conviene dedicar una hora a un benchmark comparativo con la propia tarea en lugar de usar LoRA por inercia. Las probabilidades de que una alternativa aporte una mejora apreciable en su caso concreto son hoy mayores que nunca.