Limitar la CPU redujo la temperatura del portátil de 96 a 68 °C sin perder velocidad en el LLM

Un modelo de lenguaje local en un portátil puede funcionar rápido, pero el precio de esa velocidad a veces resulta extraño: el procesador se pone al rojo vivo y los ventiladores tapan la voz, aunque la mayor parte de la carga de cálculo la soporta la tarjeta gráfica. El autor del experimento se topó exactamente con esto en un Lenovo ThinkPad P16 Gen 2 con RTX 2000 Ada y 8 GB de memoria de vídeo.

Ejecutó en LM Studio el modelo Gemma de 12 000 millones de parámetros en una variante QAT de 4 bits. Junto con un contexto de 8192 tokens, según sus datos, cabía en la VRAM y generaba unos 12 tokens por segundo. Pero la CPU se calentaba hasta 95–96 °C y el sistema de refrigeración pasaba a un modo muy ruidoso.

Por qué limitar la CPU no ralentizó el modelo

La lógica del experimento es sencilla. Si los pesos del modelo y el contexto de trabajo están en la memoria de vídeo, las operaciones matemáticas principales se realizan en la GPU. El procesador sigue atendiendo la aplicación, la preparación de datos y otras operaciones del sistema, pero su frecuencia máxima puede no influir en la velocidad de emisión de tokens.

Para comprobarlo, el autor creó en ThrottleStop un perfil específico para trabajar con IA. En él desactivó el turbo boost de la CPU y cambió el umbral de temperatura mediante PROCHOT Offset. El rendimiento del procesador, según su estimación, bajó aproximadamente entre un 40 y un 50 % respecto al modo máximo.

El resultado fue revelador: la RTX 2000 Ada siguió produciendo los mismos 12 tokens por segundo. Es decir, en esta configuración concreta el procesador no era el cuello de botella de la generación. El margen térmico liberado permitió que el sistema de refrigeración trabajara con más calma.

Qué cambió tras ajustar la refrigeración

A el autor no le bastó con limitar la frecuencia. Mediante TPFanControl configuró además un cambio de velocidad más temprano y gradual en los dos ventiladores. En lugar de saltos bruscos de revoluciones, la refrigeración empezó a reaccionar con antelación al aumento de temperatura.

Según las mediciones del autor, la temperatura máxima de la CPU bajó de 95–96 a 68 °C. La tarjeta gráfica, por su parte, no pasó de 59 °C, y el ruido de los ventiladores pasó de ser un zumbido notable a un murmullo de fondo. La velocidad de generación se mantuvo en 12 tokens por segundo.

El sentido práctico va más allá de un solo ThinkPad. Antes de comprar un equipo más potente conviene determinar el verdadero cuello de botella: la capacidad de VRAM, el ancho de banda de la memoria, la GPU, la CPU o la descarga de parte del modelo a la memoria RAM. Si el modelo funciona por completo en la tarjeta gráfica, la potencia adicional del procesador puede aportar sobre todo calor y ruido.

Dónde no conviene copiar el experimento a ciegas

No es una receta universal. Con una descarga parcial de capas a la CPU, un contexto grande, el procesamiento de varias solicitudes o tareas paralelas, limitar el procesador sí puede reducir la velocidad. El resultado también depende de la versión de LM Studio, el formato del modelo, los parámetros de ejecución, los controladores y el diseño concreto de refrigeración.

Hay que ser especialmente prudente al modificar PROCHOT y el control de los ventiladores. Unos umbrales erróneos pueden provocar sobrecalentamiento, inestabilidad o un desgaste acelerado de los componentes. El archivo de configuración de otra persona no puede considerarse seguro para otro modelo de portátil.

Un enfoque válido es anotar primero los valores de partida: velocidad de generación, carga de CPU y GPU, temperaturas, consumo y ruido. Después, desactivar solo el turbo boost, repetir la misma solicitud y comparar los resultados. Si los tokens por segundo no han caído y la temperatura ha bajado notablemente, se puede ajustar con cuidado la curva de los ventiladores. La principal conclusión del experimento no son las cifras concretas, sino el método: conviene limitar el recurso que consume energía pero no acelera la carga de trabajo real.