gpu-unlock lève la limite logicielle du BF16 sur les RTX 20/30/40 — jusqu’à +100% sur les cœurs Tensor

Imaginez : vous avez acheté une RTX 3090 ou 4080, mais une partie de sa puissance de calcul pour l’IA est verrouillée par un réglage du firmware, sans que le matériel soit en cause. C’est précisément le cas décrit par gpu-unlock, un projet du développeur Zagitta. Une précision d’emblée : je n’ai pas testé ce module. L’analyse qui suit repose sur le dépôt et son README ; tous les chiffres sont ceux annoncés par l’auteur et la communauté, pas mes propres mesures.

Quel est le problème ?

NVIDIA ne distingue pas ses GeForce destinées au jeu de ses cartes professionnelles uniquement par le prix. Sur les cartes grand public, le débit des cœurs Tensor en FP16/BF16/TF32 avec accumulation en FP32 est artificiellement réduit, le plus souvent à la moitié du pic annoncé. Cela passe inaperçu dans les jeux. En revanche, pour les LLM exécutés en local, le fine-tuning et la génération d’images ou de vidéos, ces calculs occupent l’essentiel du temps d’entraînement et de prefill, c’est-à-dire le traitement du prompt d’entrée.

Comment fonctionne gpu-unlock

Il s’agit d’un module du noyau Linux. Intégré à l’initramfs, il intervient avant que le pilote nvidia ne prenne en charge la carte. Le module écrit dans les registres de sélection de vitesse de la carte (SS0 = 0x88888888 pour le BF16 à pleine vitesse et SS1 = 0x8), puis effectue un Function-Level Reset et libère le périphérique. Le pilote NVIDIA d’origine prend ensuite le relais comme d’habitude. Le pilote lui-même n’est pas modifié et le VBIOS n’est pas flashé. L’archive du pilote sert uniquement à extraire le firmware dont dépend le déverrouillage. L’auteur affirme que les résultats des calculs restent identiques bit pour bit : seule la vitesse change.

La prise en charge se répartit ainsi : Ampere (RTX 30, y compris les 3070/3080 mobiles) est stable. Ada Lovelace (RTX 40) et Turing (RTX 20) restent expérimentales. Blackwell (RTX 50) n’est pas prise en charge et, selon l’auteur, ne le sera probablement pas. Pascal, notamment la GTX 1070, est totalement incompatible : cette architecture ne dispose pas des cœurs Tensor nécessaires.

Ce que promettent les chiffres

Selon le README, pour la multiplication matricielle pure en BF16 avec les limites de puissance d’origine : la RTX 3060 passe de 27 à 51 TFLOPS (+87%), la RTX 3080 de 65 à 113 (+73%), la RTX 3090 de 75 à 125 (+65%), la RTX 4080 de 104 à 193 (+87%) et la RTX 4090 de 165 à 329 (+100% en pointe). Pour la 4090, l’auteur prévient lui-même que la carte atteindra sa limite de puissance avant de saturer ses cœurs Tensor : le gain sera donc plus faible sur les gros calculs GEMM.

Sur les tâches réelles, les retours de la communauté sont plus modestes : +25–55% pour le prefill des LLM, +25–50% pour LoRA et le fine-tuning complet en BF16, +30–55% pour la génération d’images, +15–20% pour la vidéo (Wan 2.2) et +50–60% pour FlashAttention/SDPA. Pour llama.cpp et Ollama avec GGUF, le gain se situe entre 0–15%.

Les usages qui n’en profiteront pas

La principale limite pour les LLM à domicile est la suivante : le décodage est limité par la bande passante mémoire, pas par la puissance de calcul. Les modèles INT8/FP8/INT4, les jeux et les calculs CUDA en FP32 ne sont pas accélérés non plus. Si vous utilisez un modèle quantifié pour générer plus vite, vous pourriez ne rien gagner.

Installation et risques

Installation : git clone, puis make install (les cibles install-arch, install-deb et install-rpm sont disponibles), avant d’ajouter gpu_unlock.targets=all ou des adresses PCI précises aux paramètres du noyau. La vérification se fait avec journalctl -k -b | grep gpu_unlock. Pour revenir en arrière, il suffit de retirer le paramètre ou de désinstaller le paquet.

Quelques points à connaître. Sur les portables, le déverrouillage disparaît lorsque le GPU dédié est entièrement mis hors tension. Après une mise en veille, le module déverrouille à nouveau la carte, avec un délai d’environ une seconde ; l’hibernation n’est pas prise en charge. Si le firmware se bloque, il faut couper l’alimentation, un simple redémarrage ne suffit pas. La carte chauffera davantage. L’auteur ne prend pas en charge Windows et invite à la plus grande prudence face aux installateurs tiers : le projet n’a ni cryptomonnaie ni sites web, seulement un dépôt GitHub. Le module est sous licence GPL-2.0-only, tandis que le firmware NVIDIA conserve sa propre licence.

Ce qu’il faut en retenir en pratique

Si vous possédez une RTX 20/30/40, travaillez en FP16/BF16 et faites surtout de l’entraînement, du fine-tuning ou de la génération d’images, le projet mérite d’être essayé : il est gratuit et un seul paramètre permet de revenir en arrière. Commencez par comparer honnêtement vos charges de travail à la liste des usages qui n’en profitent pas. Et ne l’installez pas sur votre unique machine de travail sans l’avoir testé sur une configuration distincte : les chiffres présentés ici sont repris du README et n’ont pas été mesurés indépendamment.