VentureBeat : 79% des entreprises laissent leurs GPU inactifs au moins la moitié du temps

Selon VentureBeat Intelligence, la division d'études de VentureBeat, 79% des représentants d'entreprises interrogés déclarent que leurs capacités GPU ne sont occupées à rien pendant au moins la moitié du temps. Les données proviennent d'une enquête continue menée au troisième trimestre 2026, et l'indicateur est resté à ce niveau pendant les trois mois d'observation. Autrement dit, le marché, qui se plaint depuis des années d'une pénurie d'accélérateurs, ne sait majoritairement pas exploiter ce qu'il a déjà acheté ou loué.

Le contraste est net. Les budgets d'infrastructure IA augmentent, et les plans des entreprises prévoient toujours de nouveaux achats et des réservations de long terme dans le cloud. Pourtant, chez la plupart d'entre elles, la moitié des ressources de calcul, voire davantage, tourne à vide.

D'où viennent les heures creuses

L'inactivité des GPU ne s'explique généralement pas par un seul facteur, mais par un faisceau de causes organisationnelles et techniques bien connues. Voici les plus courantes :

• un achat dimensionné pour un pic de charge qui survient une fois toutes les quelques semaines, le cluster attendant le reste du temps ;
• des accélérateurs affectés à des équipes ou à des projets, si bien que les heures libres d'un groupe sont inaccessibles aux autres ;
• un entraînement de modèle terminé, alors que l'inférence n'a pas atteint les volumes prévus ;
• des données fournies plus lentement que la carte ne calcule, la puce coûteuse attendant le chargeur de données ;
• des expériences lancées à la main, avec des pauses entre elles, et une file d'attente vide la nuit et le week-end ;
• une orchestration faible : pas de planificateur commun, pas de découpage des cartes en partitions, pas de priorités.

Un détail important : l'enquête a relevé une inactivité totale, c'est-à-dire une carte qui n'est pas occupée du tout. C'est différent d'un GPU qui tourne à 30% de ses performances au sein d'une tâche active. Dans ce second cas, le problème se situe dans le code et l'architecture. Ici, il se situe dans la gestion de la ressource.

Combien coûte l'inaction

L'arithmétique est simple. Si un accélérateur est occupé la moitié du temps, chaque heure réellement travaillée coûte deux fois plus que le tarif nominal. Si le taux d'utilisation est plus bas, le multiplicateur grimpe. Avec du matériel en propre, l'amortissement, l'électricité, le refroidissement et la maintenance courent que la carte calcule ou non. Avec de la capacité réservée en location, la facture porte aussi sur toutes les heures, pas seulement sur celles qui sont utilisées.

Pour les fournisseurs, ce signal est ambigu. D'un côté, la demande d'accélérateurs repose sur des budgets réels. De l'autre, si la plupart des clients n'exploitent même pas la moitié de ce qu'ils ont acheté, les directeurs financiers finiront tôt ou tard par demander pourquoi on en achète encore. Les premières extensions de clusters remises en question seront celles justifiées par la formule « nous manquons de capacité ». Les gagnants sont ceux qui vendent des outils de planification et de partage de GPU, ainsi que les fournisseurs cloud dotés d'un modèle souple de facturation à l'heure, qui évite de conserver une réserve par précaution.

Paramètres clés de l'étude :

• source : VentureBeat Intelligence, la division d'études de VentureBeat ;
• format : enquête continue auprès de répondants en entreprise ;
• période : troisième trimestre 2026 ;
• résultat : 79% des entreprises déclarent des GPU inactifs au moins 50% du temps ;
• évolution : l'indicateur n'a pas changé pendant trois mois.

Par où commencer la chasse aux heures perdues

La première étape est ennuyeuse mais obligatoire : mesurer. De nombreuses entreprises ignorent la charge réelle de chaque carte, heure par heure et équipe par équipe. Il suffit d'exporter sur un mois les métriques des pilotes et du système de planification, puis de regarder quand et chez qui les cartes restent vides.

Ensuite, des méthodes éprouvées s'appliquent. Passer de l'affectation des cartes par équipe à un pool commun doté d'une file d'attente et de priorités. Découper les gros accélérateurs en partitions isolées pour les petites tâches et l'inférence. Déplacer les tâches différables, comme le fine-tuning, l'évaluation et le traitement par lots, vers des créneaux nocturnes. Vérifier que la carte n'attend pas ses données : si la charge fluctue alors que le processeur ou le disque saturent, le goulot se trouve dans le pipeline, pas dans le manque de GPU.

Enfin, le point le plus pratique : avant de valider un nouvel achat, exiger de l'équipe un rapport sur la charge actuelle. Si les chiffres ressemblent à ceux de l'enquête, il vaut mieux, et c'est moins cher, remettre d'abord de l'ordre dans ce qui occupe déjà les baies.