Un même H100 coûte 2,69 $ ou 12,29 $ de l'heure : un écart de 4,6 fois

Imaginez que vous achetiez le même iPhone dans deux boutiques, et que l'un des prix soit 4,6 fois plus élevé. Avec la location de GPU, ce n'est pas une métaphore. D'après une compilation publiée sur GitHub, qui a recueilli 110 points et 66 commentaires sur Hacker News, un même NVIDIA H100 se loue 2,69 $ de l'heure chez certains fournisseurs et 12,29 $ chez d'autres. La carte est la même, la puce est la même, mais la facture varie presque du simple au quintuple.

Ce que cachent ces chiffres

Convertissons les heures en argent. Un mois compte environ 730 heures. À 2,69 $, une carte revient à environ 1 960 $ ; à 12,29 $, à 8 970 $. L'écart est d'environ 7 000 $ par mois et par carte graphique. Pour un nœud typique de huit H100, il atteint de l'ordre de 56 000 $ chaque mois. Pour une équipe qui entraîne un modèle ou assure de l'inférence en continu, ce n'est plus un arrondi, mais le salaire de plusieurs ingénieurs.

Une réserve importante : nous nous appuyons sur les valeurs extrêmes de la fourchette annoncée dans le titre, et non sur la grille tarifaire complète. Pour savoir quels fournisseurs se trouvent à chaque extrémité et à quelles conditions, il faut consulter le dépôt lui-même.

Pourquoi les prix varient autant

Le prix « à l'heure » dans le cloud ne garantit presque rien en soi. Le montant final dépend généralement du modèle de paiement (à la demande, réservation sur plusieurs mois ou instances spot, qui peuvent être reprises), de la composition de l'offre (CPU, mémoire, disque, réseau, trafic sortant), du format (une carte seule ou un nœud complet avec liaison rapide entre GPU), de la fiabilité et du support, ainsi que de la région disposant de capacités libres.

Les grands clouds facturent souvent une prime pour leur écosystème : services prêts à l'emploi, gestion des accès, conformité, facturation familière. Les fournisseurs spécialisés en GPU et les places de marché sont fréquemment moins chers, mais peuvent différer en stabilité et en qualité de support. Il faut donc comparer non pas le prix par carte, mais le prix du travail utile.

Que faire en pratique

Premièrement : calculez le coût de la tâche, et non de l'heure. Si une carte bon marché reste en file d'attente ou dispose d'un réseau lent, l'économie s'évapore. Deuxièmement : lancez un court benchmark sur votre propre charge chez deux ou trois fournisseurs, par exemple une heure d'entraînement ou un test de charge d'inférence, puis divisez les coûts par le nombre de tokens ou d'étapes d'entraînement. Troisièmement : séparez les tâches. Les expériences et les calculs par lots qui supportent une interruption peuvent aller sur du matériel bon marché ou spot. La production, avec ses exigences strictes de disponibilité, vaut mieux d'être hébergée là où vous payez pour des garanties.

Quatrièmement : prévoyez dès le départ la possibilité de migrer. Des conteneurs, un environnement reproductible et des checkpoints dans un stockage neutre transforment un changement de fournisseur, d'un projet trimestriel, en affaire de quelques jours.

Pour un responsable produit, la conclusion est encore plus simple : l'économie unitaire d'une fonctionnalité d'IA dépend fortement de l'endroit où elle tourne. Si la marge ne tient qu'à 12 $ de l'heure alors que le marché propose 2,69 $, soit l'infrastructure est mal choisie, soit vous payez en connaissance de cause pour quelque chose de précis. Dans ce second cas, il vaut mieux consigner explicitement la raison.

Limites

Les prix des GPU évoluent vite, et l'instantané sur GitHub n'est qu'une coupe à une date donnée. Le prix bas n'est pas toujours disponible : il y a des files d'attente, des quotas et des durées minimales de location. Les débats sur HN portent généralement sur ces nuances ; avant toute migration, vérifiez donc vous-même les tarifs en vigueur.

L'essentiel : n'acceptez pas le prix par défaut. Une heure de H100 peut coûter 4,6 fois plus cher pour les mêmes transistors, et la comparaison des fournisseurs reste l'optimisation la moins chère que l'on puisse faire ce trimestre.