4 Mac Studio dans un seul cluster : 1,5 To de mémoire pour des LLM à un billion de paramètres

Un passionné a réuni quatre ordinateurs Mac Studio en un seul cluster doté de 1,5 To de mémoire partagée, grâce à la technologie RDMA sur Thunderbolt 5, et y a fait tourner des modèles de langage de la classe de DeepSeek V3 et Kimi K2 Thinking, d'environ un billion de paramètres. L'expérience a été publiée sur Habr en juillet 2026, sous forme de traduction de l'article original de l'auteur.

Pourquoi relier quatre Mac Studio

Quatre Mac Studio ont été assemblés en un seul cluster pour atteindre 1,5 To de mémoire partagée, un volume dans lequel un modèle de langage d'un billion de paramètres tient en entier. Des modèles de cette taille ne rentrent physiquement dans la mémoire d'aucune carte graphique grand public, ni même serveur. Le seul moyen de les exécuter en local consiste donc à constituer un pool de mémoire à partir de plusieurs machines.

Le choix s'est porté sur le Mac Studio en raison de l'architecture à mémoire unifiée (unified memory) d'Apple : sur les configurations haut de gamme, la capacité se chiffre en centaines de gigaoctets, accessibles aussi bien au processeur qu'au cœur graphique, sans copie. Quatre machines de ce type donnent les 1,5 To au total.

• Configuration — quatre ordinateurs Mac Studio dans un même cluster
• Mémoire totale — 1,5 To
• Liaison entre les nœuds — RDMA sur Thunderbolt 5
• Modèles visés — DeepSeek V3 et Kimi K2 Thinking (environ 1 billion de paramètres)
• Comparaison de performances — avec les solutions de Nvidia et d'AMD

Comment fonctionne la liaison via Thunderbolt 5

Les nœuds du cluster sont reliés en Thunderbolt 5 avec RDMA, c'est-à-dire un accès direct à la mémoire de la machine voisine, sans passer par le processeur central. C'est le RDMA qui supprime le principal goulot d'étranglement de l'inférence distribuée : l'échange des poids et des états intermédiaires du modèle entre les nœuds se fait avec une latence minimale, sans solliciter le CPU.

Thunderbolt 5 offre un débit de l'ordre de 80 Gbit/s, et l'association du RDMA avec ce type de liaison est une approche relativement nouvelle sur Mac. En pratique, l'auteur a transformé quatre ordinateurs de bureau distincts en une seule machine à espace d'adressage mémoire commun, en répartissant entre eux les couches du modèle géant.

Quels problèmes sont apparus

L'auteur situe l'essentiel de la difficulté non pas dans les performances, mais dans la configuration et la stabilité d'un assemblage de quatre nœuds. Le RDMA sur Thunderbolt 5 est une technologie récente sous macOS, et le chemin entre « j'ai acheté quatre Mac Studio » et « le modèle d'un billion de paramètres répond de façon stable » s'est révélé loin d'être évident.

Dans son article, l'auteur présente les résultats de ses tests de vitesse et compare le cluster aux solutions à base de Nvidia et d'AMD, afin de déterminer où l'assemblage Apple l'emporte sur le rapport mémoire/prix, et où il perd sur le débit et sur la maturité des logiciels.

L'objectif de l'expérience est de faire tourner en local des modèles de langage géants qui ne tiennent dans aucune carte graphique existante, comme le décrit l'auteur dans son article sur

Habr.

Ce que cela signifie

L'exécution locale de modèles à un billion de paramètres cesse d'être l'apanage exclusif des centres de données équipés de coûteuses baies de GPU : un assemblage de plusieurs Mac Studio à mémoire unifiée reliés en Thunderbolt 5 devient une alternative viable pour ceux qui veulent une inférence privée de grands modèles MoE, sans passer par le cloud. On ne peut pas encore parler de solution grand public : l'immaturité des logiciels et la complexité de la configuration restent un frein.

Questions fréquentes

Pourquoi regrouper plusieurs Mac Studio dans un cluster ?

Pour obtenir un pool de mémoire unique de 1,5 To. Des modèles comme DeepSeek V3 et Kimi K2 Thinking, d'un billion de paramètres, ne tiennent pas dans la mémoire d'une seule carte graphique, alors que quatre Mac Studio à mémoire partagée, reliés par RDMA sur Thunderbolt 5, offrent cette capacité.

Quels modèles ont pu tourner en local ?

L'auteur a fait tourner sur le cluster des modèles de langage de la classe de DeepSeek V3 et Kimi K2 Thinking, tous deux d'environ 1 billion de paramètres. C'est précisément pour eux que la configuration de 1,5 To de mémoire partagée a été montée.