Samsung y SK Hynix: por qué pronto tu servidor de IA no tendrá espacio

Mientras el mundo entero pierde la cabeza por los procesadores gráficos NVIDIA y la RAM HBM, los gigantes coreanos Samsung y SK Hynix decidieron recordar que sin "cerebros" rápidos para el almacenamiento de datos a largo plazo, cualquier red neuronal es solo una calculadora rápida sin memoria. La industria finalmente se ha dado cuenta: para entrenar modelos gigantes, no solo necesitas calcular rápido, sino también leer terabytes de datos instantáneamente. Por eso en el segundo trimestre de este año, los líderes del mercado comienzan una reestructuración masiva de sus fábricas.

Se trata de la transición a la producción del llamado "NAND" — memoria flash avanzada que se convertirá en la base para la siguiente generación de SSD servidores. Samsung está jugando en grande aquí: la empresa está discutiendo la conversión de capacidades de 40 a 50 mil obleas de silicio al mes. Esto no es solo una reparación cosmética de las líneas de producción, sino una apuesta genuina de que en 2025, cuando estas capacidades entren en producción en masa, la demanda de almacenamiento para centros de datos de IA se disparará.

¿Por qué se necesita esto ahora mismo? Recordemos el año pasado. El mercado de la memoria estaba en caos, los almacenes estaban llenos de chips antiguos, y los precios cayeron por debajo de los niveles razonables.

Pero el auge repentino de la IA generativa lo revolvió todo. Resultó que los viejos y confiables SSD para portátiles domésticos no interesaban a nadie, pero las unidades de almacenamiento corporativo capaces de soportar cargas extremas al entrenar LLMs se convirtieron en una mercancía escasa. Samsung y SK Hynix simplemente están siguiendo el dinero, convirtiendo sus fábricas de la producción de bienes de consumo a productos de alto margen.

Técnicamente, esto significa la transición a un número mayor de capas en NAND 3D. Si antes celebrábamos 128 capas, ahora la industria apunta a 236 capas y superior. Para IA, esto es crítico: cuanto mayor sea la densidad de grabación, menos espacio en rack ocupa un petabyte de datos, y menos energía consume.

En una situación donde los centros de datos consumen electricidad como pequeñas ciudades, la eficiencia energética de la memoria se convierte en una cuestión de supervivencia.

Interesantemente, Samsung planea lanzar la producción en masa de la memoria actualizada ya a principios del próximo año. Esto sugiere que los coreanos no ven signos de una burbuja de IA en el futuro cercano. Al contrario, se están preparando para que el hambre de infraestructura solo se intensifique. Si pensabas que el ensamblaje de servidores es solo sobre encontrar una GPU, pronto entenderás que encontrar una unidad de almacenamiento rápido de 30 o 60 terabytes será una tarea no menos difícil.

La conexión con eventos anteriores aquí es obvia. Después de que SK Hynix efectivamente se adelantara en la carrera por la memoria HBM, Samsung se encontró en el papel de un seguidor. La conversión agresiva de líneas NAND es un intento no solo de mantener la cuota de mercado, sino también de tomar la iniciativa en un segmento adyacente. Después de todo, si no puedes vender una tarjeta gráfica, vende el disco más rápido del mundo para ella. El mercado de SSD empresarial está creciendo más rápido que nunca en este momento, y los coreanos no tienen intención de ceder este trozo del pastel a competidores estadounidenses o chinos.

Punto principal: Los coreanos están apostando por un déficit a largo plazo en la infraestructura de IA. ¿Podrá el mercado digerir tales volúmenes para 2025, o enfrentaremos otra crisis de sobreproducción y colapso en los precios de la memoria?