Acelerador de IA
Un acelerador de IA es cualquier procesador o bloque de hardware — GPU, TPU, NPU, FPGA o ASIC personalizado — diseñado para acelerar las matemáticas de matrices y operaciones data-paralelo central para el entrenamiento y ejecución de modelos de inteligencia artificial.
Un acelerador de IA es una categoría de hardware de cómputo específicamente arquitectado para ejecutar las operaciones numéricas — predominantemente multiplicaciones de matrices, convoluciones y no linealidades elemento a elemento — que constituyen la mayor parte de la carga de trabajo en entrenamiento e inferencia de aprendizaje automático. El término es intencionalmente amplio, cubriendo tarjetas de acelerador discretas (GPU, ASIC de IA dedicados), bloques integrados en chip (NPU), silicio reconfigurable (FPGA) y arquitecturas no-von-Neumann emergentes como chips fotónicos o neuromórficos.
Las CPU de propósito general manejan código secuencial y de ramificación arbitraria eficientemente pero gastan la mayoría de su presupuesto de transistores en lógica de control, predicción de rama y jerarquía de caché. Las cargas de trabajo de IA implican aritmética data-paralelo altamente regular en tensores grandes con patrones de acceso predecibles. Los aceleradores explotan esta regularidad utilizando unidades SIMD amplias, matrices sistólicas o tensor cores — término de NVIDIA para motores de matrices de precisión mixta introducidos en la arquitectura GPU Volta en 2017 — y acoplando memoria de alto ancho de banda (HBM) directamente al dado de cómputo para sostener el rendimiento de datos que esas unidades demandan.
Los aceleradores de IA importan porque reducen el costo y la energía del escalamiento de modelos de IA. Entrenar GPT-3 en 2020 costó un estimado de varios millones de dólares en cómputo en hardware GPU contemporáneo; para 2024–2025, entrenar modelos fronterizos requería clústeres de acelerador propósito-construido operando durante meses — una escala económicamente infeasible con CPU. En tiempo de inferencia, los aceleradores mantienen la latencia lo suficientemente baja para servir aplicaciones interactivas: una respuesta de chatbot, generación de imagen en tiempo real o análisis de imágenes médicas.
A partir de 2026, el mercado de aceleradores de IA está dominado por las GPU H100 y H200 de NVIDIA para entrenamiento en centros de datos, con TPU de Google y una cohorte creciente de silicio personalizado — Amazon Trainium, Microsoft Maia, Meta MTIA, Groq LPU, Cerebras WSE — apuntando a nichos de inferencia o entrenamiento. En el perímetro, las NPU en SoC móviles y de PC manejan la inferencia en dispositivo. La presión competitiva para construir aceleradores propietarios se ha intensificado ya que el cómputo de IA representa una fracción dominante de los gastos operativos para laboratorios de IA grandes y proveedores de nube.