InfraestructuraHabr AI→ original

Autor de Habr: el cuello de botella de la IA son los clústeres de GPU y los centros de datos, no los modelos

Un autor de Habr sostiene que las principales limitaciones de la IA ya no están en el desarrollo de modelos, sino en la infraestructura de cómputo: clústeres de GPU, centros de datos, adquisición de hardware, regulación e independencia tecnológica. El anuncio de la publicación no incluye cifras, así que contrastamos la tesis con datos abiertos. Según la AIE, los centros de datos consumieron en 2024 unos 415 TWh, y su consumo podría crecer hasta aproximadamente 945 TWh en 2030. Un solo rack GB200 NVL72 entrega alrededor de 120 kW, varias veces más que un rack de un centro de datos clásico. • Cuello de botella de la IA: electricidad, refrigeración y acceso a los aceleradores. • Las restricciones a la exportación convierten las compras en una cuestión estratégica. • La capacidad hay que planificarla antes de elegir el modelo.

Procesado por IA desde Habr AI; editado por Hamidun News
Autor de Habr: el cuello de botella de la IA son los clústeres de GPU y los centros de datos, no los modelos
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalHabr AI ↗
Editor jefe
Cuello de botella de la IAelectricidad, refrigeración y acceso a los aceleradores.
Dato clave #2Las restricciones a la exportación convierten las compras en una cuestión estratégica.
Dato clave #3La capacidad hay que planificarla antes de elegir el modelo.

Según la Agencia Internacional de la Energía, los centros de datos consumieron en 2024 unos 415 TWh de electricidad, alrededor del 1,5% de la demanda mundial. Para 2030 la previsión casi se duplica y llega a 945 TWh. En ese contexto, un autor de Habr plantea en un texto sobre infraestructura de IA una tesis sencilla: las principales limitaciones del sector ya están fuera de los propios modelos. Se encuentran en los clústeres de GPU, los centros de datos, los mecanismos de compra, la regulación y la independencia tecnológica.

Advertencia: solo se ha publicado el anuncio; la parte principal del artículo está oculta tras el corte de la publicación y no hemos visto datos concretos en ella. Por eso, a continuación contrastamos la tesis del autor con fuentes abiertas.

Electricidad y refrigeración en lugar de parámetros

Entrenar y servir modelos grandes choca con la física. Un acelerador H100 consume hasta 700 W. Un rack GB200 NVL72, con 72 aceleradores Blackwell, entrega alrededor de 120 kW, mientras que en un centro de datos corporativo convencional un rack está diseñado para 5–10 kW. Con esa densidad, la refrigeración por aire ya no basta: hacen falta circuitos de refrigeración líquida, salas de máquinas rediseñadas y subestaciones eléctricas propias.

De ahí el problema principal: un emplazamiento con decenas de megavatios de potencia conectada no se puede comprar en un trimestre. Los permisos, las conexiones a la red y el suministro de transformadores llevan años, mientras que un modelo puede reentrenarse en semanas.

Las compras como función estratégica

Desde octubre de 2022, EE. UU. restringe por etapas la exportación de aceleradores avanzados a China y a otras jurisdicciones. Comprar GPU ha dejado de ser una rutina y se ha convertido en una cuestión de cumplimiento normativo, logística y política. La escala de la inversión la muestra el proyecto Stargate: en enero de 2025 se anunciaron hasta $500 mil millones a cuatro años.

Para los mercados situados fuera de las principales cadenas de suministro, el panorama es más duro. El acceso se logra mediante alquiler en la nube, importación paralela o aceleradores locales. Las soluciones locales chocan con el stack de software: el ecosistema CUDA, sus bibliotecas y sus herramientas de optimización llevan años acumulando depuración, y no se le puede dar alcance solo con hardware.

Métricas clave de la barrera de infraestructura

  • Consumo de los centros de datos: unos 415 TWh en 2024; previsión de la AIE de unos 945 TWh para 2030.
  • H100: hasta 700 W por acelerador.
  • GB200 NVL72: alrededor de 120 kW por rack, 72 aceleradores.
  • Rack clásico de centro de datos: 5–10 kW.
  • Stargate: hasta $500 mil millones a cuatro años, según los participantes del proyecto.

Cómo planificar la capacidad

La tesis del autor de Habr resulta convincente, pero conviene verificarla con las tareas propias de cada equipo. Para la mayoría de los equipos, la cuestión no es si deben construir su propio clúster. Lo importante es calcular de antemano el coste del token o de la hora de GPU con una carga real y comparar alquiler, reserva y compra.

El mínimo práctico: incluir en el contrato con el proveedor de nube cuotas garantizadas de aceleradores, y no solo el precio. Comprobar si el código es portable a otro stack para no depender de un único proveedor. En el caso de instalaciones propias, empezar por la solicitud de potencia y el proyecto de refrigeración, y elegir los modelos después. Si el texto completo en Habr incluye cálculos sobre compras y regulación, ellos darán la respuesta sobre hasta qué punto este escenario es aplicable al mercado ruso.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Electricidad y refrigeración en lugar de parámetros?

Entrenar y servir modelos grandes choca con la física. Un acelerador H100 consume hasta 700 W. Un rack GB200 NVL72, con 72 aceleradores Blackwell, entrega alrededor de 120 kW, mientras que en un centro de datos corporativo convencional un rack está diseñado para 5–10 kW. Con esa densidad, la refrigeración por aire ya no basta: hacen falta circuitos de refrigeración líquida, salas de máquinas rediseñadas y subestaciones eléctricas propias. De ahí el problema principal: un emplazamiento con decenas de megavatios de potencia conectada no se puede comprar en un trimestre. Los p

¿Qué se sabe sobre Las compras como función estratégica?

Desde octubre de 2022, EE. UU. restringe por etapas la exportación de aceleradores avanzados a China y a otras jurisdicciones. Comprar GPU ha dejado de ser una rutina y se ha convertido en una cuestión de cumplimiento normativo, logística y política. La escala de la inversión la muestra el proyecto Stargate: en enero de 2025 se anunciaron hasta $500 mil millones a cuatro años. Para los mercados situados fuera de las principales cadenas de suministro, el panorama es más duro. El acceso se logra mediante alquiler en la nube, importación paralela o aceleradores locales. Las so

¿Qué se sabe sobre Métricas clave de la barrera de infraestructura?

Consumo de los centros de datos: unos 415 TWh en 2024; previsión de la AIE de unos 945 TWh para 2030. H100: hasta 700 W por acelerador. GB200 NVL72: alrededor de 120 kW por rack, 72 aceleradores. Rack clásico de centro de datos: 5–10 kW. Stargate: hasta $500 mil millones a cuatro años, según los participantes del proyecto.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace

Access Frontier LLMs & Multimodal AI in One Workspace

Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.

Try NomadNet AI →Launch NomadNet Agent
¿Qué te parece?
Cargando comentarios…