Hugging Face сравнила все альтернативы LoRA: кто побеждает в тонкой настройке LLM

LoRA est devenue la norme de fait pour l'ajustement fin des grands modèles de langage : bon marché, rapide et fonctionne presque partout sans surprises. Hugging Face a décidé de se poser une question honnête : pouvons-nous faire mieux — et si oui, quand exactement ?

Pourquoi LoRA Maintient Sa Position

LoRA (Low-Rank Adaptation) fonctionne simplement : au lieu de mettre à jour tous les milliards de poids d'un modèle, la méthode ajoute une paire de petites matrices de bas rang à des couches clés. Le nombre de paramètres entraînables diminue de 10–1000 fois. Cela rend l'ajustement fin accessible même sur des GPU de consommateur.

C'est pourquoi LoRA est devenue omniprésente : elle est utilisée pour l'entraînement supplémentaire de Llama et Mistral, pour créer des styles personnalisés dans Stable Diffusion, pour adapter les LLM d'entreprise aux besoins spécifiques du domaine. La bibliothèque PEFT de Hugging Face enregistre des centaines de milliers de téléchargements par semaine. Mais LoRA a des faiblesses.

Aux rangs de matrice élevés (rank=64 et au-delà), l'entraînement devient instable. Sur les tâches où le transfert précis des connaissances est important, la méthode perd parfois face à l'ajustement fin complet. Et dans les scénarios avec des contraintes de mémoire strictes — par exemple, l'entraînement sur une seule carte graphique bon marché — même LoRA peut s'avérer trop gourmande en ressources.

Ce Qu'a Testé Hugging Face

L'équipe a pris la bibliothèque PEFT et mené une comparaison systématique de LoRA avec cinq alternatives sur des tâches downstream réelles :

• DoRA — décompose les poids en direction et magnitude, les met à jour indépendamment, se rapprochant du comportement de l'ajustement fin complet
• LoRA+ — idée simple : les matrices A et B sont entraînées avec des taux d'apprentissage différents, la matrice B reçoit un taux plus élevé pour accélérer la convergence
• rsLoRA — coefficient de normalisation qui stabilise les gradients à des valeurs de rang élevées
• VeRA — matrices congelées aléatoires, seuls de minuscules vecteurs d'échelle sont entraînés ; paramètres dizaines de fois moins qu'avec LoRA
• GaLore — projette les gradients eux-mêmes dans un espace de bas rang, économisant la mémoire de l'optimiseur sans changer l'architecture des poids

Métriques : qualité sur les tâches de contrôle (NLU, suivi des instructions, résumé), consommation maximale de mémoire GPU et vitesse d'une époque d'entraînement.

Qui Défie le Leader

Il n'y a pas de vainqueur clair — chaque méthode a son propre profil. DoRA montre systématiquement une qualité légèrement meilleure par rapport à LoRA avec le même nombre de paramètres et la même mémoire. Particulièrement remarquable sur les tâches de suivi des instructions et de raisonnement.

Le coût est un temps d'entraînement légèrement plus long en raison de la décomposition supplémentaire des poids. rsLoRA n'améliore pas la qualité de base, mais élimine l'instabilité aux rangs élevés. Si vous avez besoin de rank=128 ou plus — rsLoRA est pratiquement obligatoire, LoRA classique commence à « dériver » là.

VeRA est intéressant pour les scénarios avec des contraintes strictes sur la taille de l'adaptateur — par exemple, lors de la gestion de milliers d'adaptateurs utilisateur sur un serveur — mais perd un peu en qualité.

«

LoRA reste le meilleur choix par défaut — mais la connaissance des alternatives permet de maximiser les performances dans des conditions spécifiques », concluent les auteurs de l'étude.

GaLore ouvre la possibilité d'entraîner sur des GPU avec peu de VRAM sans changer l'architecture des poids. Convient pour le pré-entraînement ou le pré-entraînement continu, quand vous avez besoin de travailler avec tous les poids mais avez critiquement peu de mémoire. L'entraînement est notablement plus lent dans ce cas.

Ce Que Cela Signifie

L'écosystème PEFT mûrit : au lieu d'une méthode universelle pour tous les cas, une matrice d'outils se forme. Pour les équipes produit, cela signifie une chose — avant de choisir une méthode d'ajustement fin, il vaut la peine de passer une heure sur un benchmark comparatif sur votre propre tâche plutôt que de prendre LoRA par défaut. Les chances qu'une alternative donne une amélioration notable précisément sur votre scénario sont maintenant plus élevées que jamais.