China vai permitir que grandes empresas de IA comprem chips Nvidia H200, diz The Information

Pela primeira vez em vários anos, a China vai permitir que grandes empresas de IA comprem chips Nvidia H200, ainda que em volume limitado e com aprovação das autoridades. A informação é do site The Information, que cita fontes a par da situação; a notícia foi repercutida pelo Bloomberg Tech.

O que é o chip Nvidia H200

O H200 é um dos aceleradores mais potentes da Nvidia para treinamento e inferência de grandes modelos de linguagem, e sucede o H100. Seu principal diferencial é a memória HBM3e, ampliada para 141 GB, com largura de banda bem maior que a do antecessor. Isso é crucial para rodar LLMs modernos com bilhões de parâmetros.

• O H200 é uma evolução da arquitetura Hopper, geração-chave dos chips de IA da Nvidia
• A memória HBM3e de 141 GB representa um salto expressivo em relação aos 80 GB do H100
• O chip está entre os produtos sujeitos ao controle de exportação dos EUA
• Somente as empresas chinesas de IA de "primeira linha" poderão comprá-lo, e apenas em quantidade limitada

Por que a China estava proibida de comprar esses chips

Desde outubro de 2022, o Departamento de Comércio dos EUA restringe a exportação para a China dos aceleradores de IA mais potentes da Nvidia, incluindo A100, H100 e H200, alegando riscos de uso da tecnologia para fins militares e de inteligência. A Nvidia precisou desenvolver versões reduzidas dos chips especificamente para o mercado chinês, como o H20. O acesso a esse modelo também foi liberado e bloqueado periodicamente, ao sabor das negociações comerciais entre Washington e Pequim.

O que isso significa

Se a reportagem do The Information for confirmada, será um dos sinais mais claros de distensão na disputa tecnológica entre EUA e China em computação para IA: as empresas chinesas terão acesso a hardware mais potente para treinar modelos, e a Nvidia recuperará parte do mercado que perdeu por causa das sanções.