L'IA crée une demande « insatiable » de mémoire : le CEO d'Alger décrypte le boom des semi-conducteurs

Dans une interview accordée à Bloomberg, Dan Chung, CEO du fonds d'investissement Alger, qualifie d'« insatiable » la demande de mémoire et la relie directement à l'essor fulgurant de l'intelligence artificielle. Selon lui, ce phénomène redessine tout le paysage de l'investissement technologique et oblige à revoir où chercher les profits du boom de l'IA.

Pourquoi l'IA a besoin d'autant de mémoire

Les grands modèles de langage actuels nécessitent des pétaoctets de données pour leur entraînement. Chaque paramètre du modèle occupe un bloc de mémoire. Un seul cycle d'entraînement sur des centaines de milliers de GPU impose de coordonner des pétaoctets de DRAM et de mémoire à large bande passante (HBM). Pour servir simultanément des millions d'utilisateurs, les data centers mobilisent des dizaines de To de VRAM.

Avec l'architecture Transformer, la consommation de mémoire croît linéairement à chaque doublement de la taille du modèle : une loi d'échelle que personne n'abolira. Les data centers qui font tourner l'inférence 24/7 engloutissent la mémoire comme un trou noir, en quantités colossales.

Qui alimente la machine

La demande ne porte pas seulement sur les GPU comme le NVIDIA H100, mais aussi sur la DRAM, la HBM (High Bandwidth Memory) et le stockage longue durée. Micron, Samsung ou SK Hynix enregistrent des commandes record de puces mémoire, avec des contrats sur 2-3 ans. Les fabricants de mémoire vivent la plus forte hausse de la demande depuis deux décennies. Les usines tournent à pleine capacité pour tenter de suivre le rythme.

• Entraînement des modèles : des pétaoctets de mémoire à chaque mise à jour
• Inférence à grande échelle : de multiples copies du modèle réparties sur les serveurs
• Bases de données vectorielles : les embeddings utilisés pour le RAG dévorent la mémoire de façon exponentielle
• Fine-tuning : des modèles personnalisés pour chaque client entreprise

La tendance d'investissement

Dan Chung souligne que la valeur de la stack IA ne réside pas dans les puces de calcul elles-mêmes, mais dans l'écosystème mémoire qui les entoure. Les investisseurs qui ne regardaient auparavant que NVIDIA et les nouvelles startups d'IA suivent désormais de plus près les fabricants de mémoire, de contrôleurs et de solutions de refroidissement.

Il s'agit d'un cycle de demande long : ni une mode ni une spéculation, mais une nécessité architecturale inscrite dans la nature même des grands modèles de langage.

« L'IA ne peut pas se développer sans mémoire.

Ce n'est pas une option, c'est une contrainte », entend-on dans l'interview.

Ce que cela signifie

La mémoire à semi-conducteurs devient le nouveau « chemin de fer » : l'infrastructure de base sur laquelle reposent toutes les autres technologies. Les investissements ne se déplacent pas vers les startups d'IA les plus en vue, mais vers les entreprises qui fournissent les pelles et les pioches de la ruée vers l'or de l'IA. Concrètement : une demande de long terme, une protection contre la spéculation et une visibilité sur les revenus pour de nombreuses années.