China permitirá que grandes empresas de IA compren chips Nvidia H200 — The Information

China permitirá por primera vez en varios años a las principales empresas de IA comprar chips Nvidia H200 — aunque en cantidades limitadas y con aprobación gubernamental. Esto es reportado por The Information citando fuentes familiarizadas con el asunto; la noticia es relatada por Bloomberg Tech.

Qué es el chip Nvidia H200

El H200 es uno de los aceleradores más potentes de Nvidia para el entrenamiento e inferencia de modelos grandes de lenguaje, sucediendo al chip H100. Su característica principal distintiva es el tamaño de memoria HBM3e aumentado a 141 GB y un ancho de banda de memoria significativamente mayor en comparación con su predecesor, lo cual es crítico al trabajar con LLMs modernos con miles de millones de parámetros.

• H200 es un desarrollo de la arquitectura Hopper, una generación clave de chips de IA de Nvidia
• La memoria HBM3e de 141 GB representa un salto significativo desde los 80 GB del H100
• El chip cae en la categoría de productos sujetos a controles de exportación de EE.UU.
• Solo las empresas de IA chinas de "nivel superior" podrán comprarlo, y solo en cantidades limitadas

Por qué China fue restringida de comprar tales chips

Desde octubre de 2022, el Departamento de Comercio de EE.UU. ha restringido las exportaciones de los aceleradores de IA más potentes de Nvidia — incluyendo A100, H100 y H200 — a China, citando riesgos de uso en operaciones militares e de inteligencia. Nvidia fue forzada a desarrollar versiones reducidas de chips específicamente para el mercado chino, incluyendo el modelo H20, cuyo acceso también se ha abierto y cerrado periódicamente en el contexto de negociaciones comerciales entre Washington y Pekín.

Qué significa esto

Si el reporte de The Information se confirma, esto sería una de las señales más significativas de una relajación del enfrentamiento tecnológico entre EE.UU. y China en computación de IA: las empresas chinas obtendrían acceso a hardware más poderoso para entrenar modelos, y Nvidia recuperaría una porción del mercado perdido debido a las sanciones.