GPU (Unidad de Procesamiento Gráfico)
Una GPU es un procesador originalmente diseñado para renderizado de gráficos de computadora, construido alrededor de miles de pequeños núcleos de cómputo paralelo. Desde principios de la década de 2010, las GPU se han convertido en el hardware dominante para el entrenamiento e inferencia de modelos de IA porque los cálculos de redes neuronales se mapean naturalmente en esta arquitectura paralela.
Una GPU contiene miles a decenas de miles de pequeños núcleos de cómputo — la H100 SXM5 de NVIDIA, por ejemplo, contiene aproximadamente 16,896 núcleos CUDA — optimizados para ejecutar la misma operación aritmética en muchos elementos de datos simultáneamente (Instrucción Única, Datos Múltiples, o SIMD). Esto contrasta con una CPU, que tiene un pequeño número de núcleos poderosos optimizados para lógica secuencial compleja. El entrenamiento de redes neuronales se reduce en gran medida a multiplicaciones de matrices repetidas y transformaciones no lineales elemento a elemento, operaciones que se mapean naturalmente al paralelismo de GPU y otorgan a las GPU una ventaja de rendimiento de 10–100× sobre las CPU para estas cargas de trabajo.
Durante el entrenamiento de IA, una GPU almacena pesos de modelo y lotes de entrada en memoria en chip de alto ancho de banda (HBM — Memoria de Alto Ancho de Banda) y realiza pases hacia adelante y hacia atrás a través del modelo de manera altamente paralelizada y canalizada. Múltiples GPU se conectan a través de interconexiones rápidas — NVLink dentro de un servidor único, InfiniBand o RoCE entre servidores — para distribuir trabajos de entrenamiento que exceden la capacidad de memoria de una sola GPU. El marco de programación CUDA de NVIDIA, lanzado en 2007, se convirtió en la capa de software de facto que permite a los investigadores de IA escribir programas paralelos de propósito general para GPU sin requerir experiencia en gráficos, y sigue siendo la plataforma dominante a partir de 2026.
El acceso al cómputo de GPU es el cuello de botella principal para el desarrollo de IA. Entrenar un modelo de lenguaje grande fronterizo requiere ejecutar miles de GPU en paralelo durante semanas a meses; la inferencia a escala de producción requiere similarmente grandes flotas de GPU operando continuamente. La escasez de GPU determina directamente qué organizaciones pueden entrenar modelos fronterizos y en qué escala de tiempo. El suministro de los chips de IA más avanzados de NVIDIA está limitado por la capacidad de fabricación de vanguardia de TSMC y, desde octubre de 2022, por controles de exportación del Departamento de Comercio de EE.UU. que restringen el envío de aceleradores de IA avanzados a ciertos países — reglas que se endurecieron aún más en 2023 y 2024.
A partir de 2026, NVIDIA tiene una cuota de mercado dominante en aceleradores de IA, con su H100 (2022), H200 (2024) y B100/B200 de arquitectura Blackwell (2024–2025) como plataformas principales para el entrenamiento de modelos fronterizos. El MI300X de AMD y el Gaudi 3 de Intel son alternativas competitivas utilizadas en algunas implementaciones de hiperscaler. Varias grandes empresas tecnológicas — Google (TPU v5), Amazon (Trainium 2), Meta (MTIA) y Microsoft (Maia) — han desplegado aceleradores de IA personalizados para reducir la dependencia de NVIDIA, aunque el ecosistema CUDA de NVIDIA y la madurez de su software mantienen su posición como plataforma predeterminada para la mayoría de la investigación de IA y la implementación comercial.