gpu-unlock elimina el límite por software de BF16 en las RTX 20/30/40: hasta +100% en los núcleos tensoriales

Imagina esto: compraste una RTX 3090 o una 4080, y parte de su potencia de cómputo para IA está bloqueada no por el hardware, sino por un ajuste en el firmware. Eso es justo lo que cuenta el proyecto gpu-unlock del desarrollador Zagitta. Una aclaración desde el principio: no he probado el módulo. A continuación, un análisis del repositorio y del README, y todas las cifras son afirmaciones del autor y de la comunidad, no mediciones mías.

Cuál es el problema

NVIDIA separa su gama entre GeForce para juegos y tarjetas profesionales por algo más que el precio. En las tarjetas de consumo, el rendimiento de los núcleos tensoriales en los modos FP16/BF16/TF32 con acumulación en FP32 está recortado artificialmente, casi siempre a la mitad del pico nominal. En los juegos no se nota. Pero en LLM locales, ajuste fino y generación de imágenes y vídeo, justo esta matemática ocupa la mayor parte del tiempo de entrenamiento y del prefill, es decir, del procesamiento del prompt de entrada.

Cómo funciona gpu-unlock

Es un módulo de kernel de Linux. Se integra en el initramfs y se activa antes de que el driver nvidia se enlace a la tarjeta. El módulo escribe en la tarjeta los registros selectores de velocidad (SS0 = 0x88888888 para la velocidad completa de BF16 y SS1 = 0x8), luego ejecuta un Function-Level Reset y libera el dispositivo. Después, el driver original de NVIDIA toma la tarjeta como de costumbre. El driver no se parchea ni se flashea la VBIOS. El archivo del driver solo hace falta para extraer el firmware del que depende el desbloqueo. El autor afirma que los resultados de los cálculos son idénticos bit a bit y que solo cambia la velocidad.

El soporte es así: Ampere (RTX 30, incluidas las móviles 3070/3080) es estable. Ada Lovelace (RTX 40) y Turing (RTX 20) son experimentales. Blackwell (RTX 50) no está soportada, y el autor cree que no lo estará. Pascal, incluida la GTX 1070, no sirve en absoluto: no tiene los núcleos tensoriales necesarios.

Qué prometen las cifras

Según el README, matmul BF16 puro con los límites de potencia de fábrica: RTX 3060, de 27 a 51 TFLOPS (+87%); RTX 3080, de 65 a 113 (+73%); RTX 3090, de 75 a 125 (+65%); RTX 4080, de 104 a 193 (+87%); RTX 4090, de 165 a 329 (+100% en el pico). Para la 4090 el propio autor advierte que la tarjeta chocará con el límite de potencia antes que con el techo de los núcleos tensoriales, así que en GEMM grandes la mejora será menor.

En tareas reales, según los informes de la comunidad, el panorama es más modesto: prefill de LLM +25–55%, LoRA y ajuste fino completo en BF16 +25–50%, generación de imágenes +30–55%, vídeo (Wan 2.2) +15–20%, FlashAttention/SDPA +50–60%. Para llama.cpp y Ollama con GGUF, 0–15%.

Dónde no ayudará

La principal limitación para los LLM domésticos: el decode está limitado por el ancho de banda de la memoria, no por el cómputo. Los modelos INT8/FP8/INT4, los juegos y CUDA FP32 tampoco se aceleran. Si ejecutas un modelo cuantizado por la velocidad de generación, puede que no obtengas nada.

Instalación y riesgos

Instalación: git clone, luego make install (hay objetivos install-arch, install-deb e install-rpm), tras lo cual se añade a los parámetros del kernel gpu_unlock.targets=all o direcciones PCI concretas. Verificación con journalctl -k -b | grep gpu_unlock. Para revertir, basta quitar el parámetro o desinstalar el paquete.

Matices. En portátiles, el desbloqueo se pierde cuando la GPU discreta se apaga por completo. Tras suspender, el módulo vuelve a desbloquear la tarjeta, con un retraso de aproximadamente un segundo; la hibernación no está soportada. Si el firmware se cuelga, hay que apagar la alimentación, no basta con reiniciar. La tarjeta se calentará más. El autor no da soporte a Windows, y hay que tratar con extrema cautela los instaladores de terceros: el proyecto no tiene criptomoneda ni sitios web, solo un repositorio en GitHub. El módulo tiene licencia GPL-2.0-only, mientras que el firmware de NVIDIA sigue bajo su propia licencia.

Conclusión práctica

Si tienes una RTX 20/30/40, trabajas con FP16/BF16 y sobre todo entrenas, ajustas modelos o generas imágenes, el proyecto merece una prueba: es gratis y se revierte con un solo parámetro. Primero compara con honestidad tu perfil de carga con la lista de «dónde no funciona». Y no lo instales en tu única máquina de trabajo sin probarlo antes en un banco aparte: las cifras aquí son las del README, no mediciones independientes.