a16z : les tokens coûtent moins cher, mais la location de H100 ne baisse pas — le paradoxe de Jevons appliqué à l'IA

Les analystes d'a16z observent sur le marché de l'IA un paradoxe de Jevons classique : le prix des tokens continue de baisser, tandis que la location horaire des GPU H100 reste stable ou augmente. La baisse du coût de l'inférence ne réduit pas la charge sur le matériel, elle l'accroît, car la demande progresse plus vite que le prix unitaire ne diminue. Pour Jensen Huang, c'est le meilleur scénario possible. Mais il repose sur une seule hypothèse : la courbe de la demande ne s'aplatira pas.

Le paradoxe de Jevons appliqué aux tokens

William Stanley Jevons a décrit cet effet en 1865 à propos du charbon. Les machines à vapeur étaient devenues plus économes, et le pays s'est mis à brûler non pas moins, mais plus de charbon. La même mécanique joue avec les tokens. Quand une requête à un modèle coûte quelques centimes, on l'envoie bien plus souvent : on intègre l'IA dans chaque produit, on lance des agents qui font des dizaines d'appels pour une seule tâche, on gonfle le contexte, on active les chaînes de raisonnement. Le prix du token baisse, le nombre de tokens augmente encore plus vite, et la consommation totale de calcul progresse.

Le prix de location du H100 sert ici d'indicateur direct de la pénurie. Cette puce date de 2022 et, dans un cycle de vie normal, sa location devrait baisser à mesure que de nouvelles architectures arrivent. Si le prix reste stable ou monte, c'est que les capacités disponibles restent insuffisantes.

Ce que montrent les données

The Decoder, dans son compte rendu, publie les conclusions, pas le tableau complet des chiffres. Le tableau d'ensemble tient en quatre points :

• le prix par token continue de baisser chez les fournisseurs de modèles ;
• le coût de location du H100 est stable et, dans certains cas, en hausse ;
• la demande de tokens croît plus vite que leur prix ne diminue ;
• le principal risque tient à un éventuel plateau de la demande : la pression s'exercerait alors sur toute la chaîne d'approvisionnement en calcul.

Pour les pourcentages exacts et les périodes d'observation, mieux vaut consulter la source originale d'a16z. La conclusion, elle, ne change pas : à ce stade, la baisse du coût de l'IA ne libère pas de capacités, elle les absorbe.

Qui gagne, qui prend des risques ?

La chaîne est longue. Elle comprend les fabricants d'accélérateurs, les fournisseurs cloud, les clouds GPU spécialisés, les constructeurs de data centers et les prêteurs qui financent le tout sur la base d'un taux d'utilisation attendu. Chaque maillon parie sur une demande qui continuera de croître à un rythme au moins égal à l'actuel.

Tant que les tokens baissent et que la location ne recule pas, le modèle fonctionne à tous les niveaux. Les développeurs de modèles réduisent leurs prix et attirent de nouveaux clients. Les clients consomment davantage. Les clouds conservent leur marge sur la location de matériel. Nvidia vend de nouveaux accélérateurs pour un volume croissant.

Si la croissance ralentit, le prix de location baissera d'abord, puis le taux d'utilisation des clusters. Les opérateurs qui ont acheté des GPU à crédit en comptant sur les tarifs actuels en pâtiront. Cet édifice est sensible à tout refroidissement de la demande : les capacités se commandent pour des années, alors que la demande peut s'évaporer en un trimestre.

Que doivent faire les équipes et les investisseurs ?

Pour les entreprises qui construisent des produits sur des LLM, la conclusion est simple : il faut planifier le budget d'inférence à partir du volume d'usage, et non de la grille tarifaire. La baisse du prix du token ne réduira pas la facture si le nombre d'appels d'agents et la longueur du contexte augmentent en parallèle. Il vaut mieux calculer le coût d'une tâche entière plutôt que celui d'une requête, et optimiser en amont le routage entre grands et petits modèles.

Pour ceux qui achètent de la capacité, il est judicieux de suivre le prix de location du H100, et pas seulement les prix des tokens. C'est un signal plus précoce : s'il commence à baisser, l'offre a rattrapé la demande, et les conditions des contrats de long terme peuvent être renégociées. Les investisseurs en infrastructure ont intérêt à surveiller le taux d'utilisation des clusters et les tarifs de location avant le chiffre d'affaires des fournisseurs. La croissance des tokens paraît solide pour l'instant, mais c'est précisément ce duo d'indicateurs qui signalera le premier le moment où le paradoxe cessera de jouer.