Limiter le CPU a fait chuter la température du portable de 96 à 68 °C sans ralentir le LLM

Un modèle de langage local peut fonctionner rapidement sur un portable, mais le prix de ces performances paraît parfois étrange : le processeur chauffe fortement et les ventilateurs couvrent la voix, alors même que la carte graphique assure l’essentiel de la charge de calcul. L’auteur de l’expérience a précisément rencontré cette situation sur un Lenovo ThinkPad P16 Gen 2 équipé d’une RTX 2000 Ada et de 8 Go de mémoire vidéo.

Dans LM Studio, il a lancé une version QAT sur 4 bits de Gemma, un modèle de 12 milliards de paramètres. Avec un contexte de 8192 tokens, le modèle tenait, selon lui, dans la VRAM et générait environ 12 tokens par seconde. Le CPU montait toutefois à 95–96 °C et le système de refroidissement passait dans un mode particulièrement bruyant.

Pourquoi la limitation du CPU n’a pas ralenti le modèle

Le principe de l’expérience est simple. Si les poids du modèle et le contexte de travail résident dans la mémoire vidéo, l’essentiel des calculs est effectué sur le GPU. Le processeur continue de gérer l’application, la préparation des données et d’autres opérations système, mais sa fréquence maximale peut ne pas avoir d’incidence sur la vitesse de production des tokens.

Pour le vérifier, l’auteur a créé dans ThrottleStop un profil distinct destiné aux tâches d’IA. Il y a désactivé le turbo boost du CPU et modifié le seuil thermique au moyen du paramètre PROCHOT Offset. D’après son estimation, les performances du processeur ont diminué d’environ 40–50 % par rapport au mode de pointe.

Le résultat a été parlant : la RTX 2000 Ada a continué à produire les mêmes 12 tokens par seconde. Autrement dit, dans cette configuration précise, le processeur ne constituait pas le goulet d’étranglement de la génération. La marge thermique ainsi libérée a permis à l’ensemble du système de refroidissement de fonctionner plus calmement.

Ce qui a changé après le réglage du refroidissement

La seule limitation de la fréquence ne suffisait pas à l’auteur. À l’aide de TPFanControl, il a également configuré une transition plus précoce et plus progressive entre les vitesses des deux ventilateurs. Au lieu de brusques hausses de régime, le refroidissement a commencé à réagir plus tôt à l’augmentation de la température.

Selon les mesures de l’auteur, la température maximale du CPU est passée de 95–96 à 68 °C. La carte graphique n’a pas dépassé 59 °C, tandis que le bruit des ventilateurs est passé d’un bourdonnement bien perceptible à un léger souffle en arrière-plan. La vitesse de génération est restée à 12 tokens par seconde.

La portée pratique de cette expérience dépasse le seul ThinkPad. Avant d’acheter un ordinateur plus puissant, il est utile d’identifier le véritable goulet d’étranglement : la capacité de la VRAM, la bande passante mémoire, le GPU, le CPU ou le déchargement d’une partie du modèle vers la RAM. Si le modèle s’exécute entièrement sur la carte graphique, la puissance supplémentaire du processeur peut surtout produire davantage de chaleur et de bruit.

Pourquoi il ne faut pas reproduire aveuglément l’expérience

Il ne s’agit pas d’une recette universelle. En cas de déchargement partiel de couches vers le CPU, de contexte volumineux, de traitement de plusieurs requêtes ou de tâches parallèles, limiter le processeur peut effectivement réduire les performances. Le résultat dépend également de la version de LM Studio, du format du modèle, des paramètres d’exécution, des pilotes et de la conception précise du système de refroidissement.

Il faut être particulièrement prudent lors de la modification de PROCHOT et du contrôle des ventilateurs. Des seuils incorrects peuvent provoquer une surchauffe, une instabilité ou une usure accélérée des composants. Un fichier de configuration conçu pour un autre portable ne peut pas être considéré comme sûr pour votre modèle.

La bonne méthode consiste d’abord à relever les valeurs de référence : vitesse de génération, charge du CPU et du GPU, températures, consommation et bruit. Désactivez ensuite uniquement le turbo boost, répétez la même requête et comparez les résultats. Si le nombre de tokens par seconde ne diminue pas alors que la température baisse nettement, vous pouvez ajuster prudemment la courbe des ventilateurs. La principale leçon de l’expérience ne réside pas dans les chiffres précis, mais dans la méthode : il faut limiter la ressource qui consomme de l’énergie sans accélérer votre charge de travail réelle.