La IA dispara una demanda «insaciable» de memoria: el CEO de Alger analiza el auge de los semiconductores

Dan Chung, CEO del fondo de inversión Alger, calificó en una entrevista con Bloomberg de «insaciable» la demanda de memoria y la vinculó directamente con el desarrollo explosivo de la inteligencia artificial. Según Chung, este fenómeno redefine todo el panorama de la inversión tecnológica y obliga a replantearse dónde buscar beneficios en el auge de la IA.

Por qué la IA necesita tanta memoria

Los grandes modelos de lenguaje actuales requieren petabytes de datos para su entrenamiento. Cada parámetro del modelo ocupa un fragmento de memoria. Una sola ejecución de entrenamiento en cientos de miles de GPU exige coordinar petabytes de DRAM y de memoria rápida de alto ancho de banda (HBM). Para atender a millones de usuarios de forma simultánea, los centros de datos movilizan decenas de TB de VRAM.

La arquitectura Transformer se traduce en un crecimiento lineal del consumo de memoria con cada duplicación del tamaño del modelo, una ley de escalado que nadie va a derogar. Los centros de datos que ejecutan inferencia 24/7 engullen memoria como un agujero negro, en cantidades enormes.

Quién alimenta la máquina

La demanda no se limita a GPU como la NVIDIA H100: también alcanza a la DRAM, la HBM (High Bandwidth Memory) y el almacenamiento de larga duración. Compañías como Micron, Samsung y SK Hynix registran pedidos récord de chips de memoria, con contratos cerrados a 2-3 años vista.

Los fabricantes de memoria viven el mayor crecimiento de la demanda en dos décadas. Las fábricas operan al límite de su capacidad para intentar seguir el ritmo.

• Entrenamiento de modelos: petabytes de memoria para cada actualización
• Inferencia a escala: múltiples copias del modelo distribuidas entre servidores
• Bases de datos vectoriales: los embeddings para RAG consumen memoria de forma exponencial
• Fine-tuning: modelos personalizados para cada cliente corporativo

La tendencia inversora

Dan Chung subraya que el valor del stack de IA no reside en los propios chips de procesamiento, sino en el ecosistema de memoria que los rodea. Los inversores que antes solo miraban a NVIDIA y a las nuevas startups de IA ahora siguen con más atención a los fabricantes de memoria, de controladores y de soluciones de refrigeración.

Se trata de un ciclo de demanda largo: no es una moda ni una especulación, sino una necesidad arquitectónica inherente a la propia naturaleza de los grandes modelos de lenguaje.

«La IA no puede desarrollarse sin memoria.

No es una opción, es una restricción», se afirma en la entrevista.

Qué significa esto

La memoria de semiconductores se está convirtiendo en el nuevo «ferrocarril»: la infraestructura básica sobre la que se construyen todas las demás tecnologías. La inversión no se desplaza hacia las startups de IA más deslumbrantes, sino hacia las empresas que suministran los picos y las palas para la fiebre del oro de la IA. Esto implica demanda a largo plazo, protección frente a la especulación y visibilidad de ingresos para muchos años.