La Chine permettra aux grandes entreprises d'IA d'acheter les puces Nvidia H200 — The Information

La Chine permettra pour la première fois en plusieurs années aux principales entreprises d'IA d'acheter des puces Nvidia H200 — bien qu'en quantités limitées et avec l'approbation du gouvernement. Ceci est rapporté par The Information citant des sources familiarisées avec le sujet; la nouvelle est relayée par Bloomberg Tech.

Qu'est-ce que la puce Nvidia H200

Le H200 est l'un des accélérateurs les plus puissants de Nvidia pour l'entraînement et l'inférence de grands modèles de langage, succédant à la puce H100. Sa principale caractéristique distinctive est la taille de mémoire HBM3e augmentée à 141 GB et une largeur de bande mémoire nettement supérieure à celle de son prédécesseur, ce qui est critique lorsque vous travaillez avec des LLM modernes comportant des milliards de paramètres.

• H200 est un développement de l'architecture Hopper, une génération clé des puces IA de Nvidia
• La mémoire HBM3e à 141 GB représente un saut significatif par rapport aux 80 GB du H100
• La puce entre dans la catégorie des produits soumis aux contrôles à l'exportation américains
• Seules les entreprises chinoises d'IA de "niveau supérieur" pourront l'acheter, et seulement en quantités limitées

Pourquoi la

Chine s'était vu interdire l'achat de telles puces

Depuis octobre 2022, le Département du commerce américain restreint les exportations des accélérateurs d'IA les plus puissants de Nvidia — y compris A100, H100 et H200 — vers la Chine, citant les risques d'utilisation dans les opérations militaires et de renseignement. Nvidia a été forcée de développer des versions réduites des puces spécifiquement pour le marché chinois, notamment le modèle H20, dont l'accès s'est également périodiquement ouvert et fermé sur fond de négociations commerciales entre Washington et Pékin.

Ce que cela signifie

Si le rapport de The Information est confirmé, ce serait l'un des signaux les plus importants d'un assouplissement de l'affrontement technologique entre les États-Unis et la Chine en informatique de l'IA : les entreprises chinoises accèderaient à du matériel plus puissant pour l'entraînement des modèles, et Nvidia retrouverait une part du marché perdue à cause des sanctions.