AMD MEXT déplace les données « froides » de la DRAM vers le SSD et économise 5 M$ sur 145 serveurs

La mémoire vive des serveurs a depuis longtemps cessé d'être un détail du budget. Quand on garnit une machine de centaines de gigaoctets de DRAM « pour avoir de la marge », une bonne partie de cette marge reste inutilisée la plupart du temps. AMD propose de s'attaquer au problème : sa technologie MEXT déplace les données rarement utilisées de la DRAM vers des SSD bien moins chers, et des algorithmes d'IA veillent à ce que les performances ne baissent pas de façon notable.

Où est le problème

Imaginez la cuisine d'un restaurant. Les épices utilisées chaque minute sont posées sur le plan de travail du cuisinier. Le sac de farine ouvert une fois par semaine reste en réserve. Personne ne garde toute la réserve sur le plan de travail, car il est cher et petit.

Avec la mémoire des serveurs, c'est souvent l'inverse. L'application a chargé en DRAM un grand volume de données : caches, index, états de services, morceaux de bases de données. Les accès sont inégaux : une partie des données est nécessaire en permanence, une autre ne sert à personne pendant des semaines. Pourtant, on les paie au prix de la mémoire la plus rapide.

Comment cela fonctionne

D'après la description, MEXT repère les pages de données « froides » et les déplace de la DRAM vers le SSD. Les données chaudes restent en mémoire vive. La difficulté clé est de deviner ce qui est réellement froid. Si l'on se trompe et qu'on envoie sur disque ce dont on aura besoin une seconde plus tard, l'application attend le disque et les latences augmentent. C'est pourquoi AMD fait appel à des algorithmes d'IA : ils aident à décider quelles données peuvent être évincées sans risque, afin d'éviter une baisse de performances notable.

L'idée n'est pas nouvelle : la mémoire hiérarchisée et le swap existent depuis des décennies. La nouveauté tient à ce que la solution est présentée comme une technologie clé en main d'un fabricant de matériel, et que le choix des données à déplacer devient prédictif.

Voici les chiffres d'AMD : sur les 145 premiers systèmes serveurs, l'entreprise a estimé l'économie à environ 5 M$. En divisant, on obtient environ 34 000 $ par système. C'est notre déduction arithmétique, pas une déclaration d'AMD. Le titre de l'original avance aussi une thèse plus tapageuse, celle du remplacement de la moitié de la DRAM, mais la description disponible ne détaille pas comment cette proportion a été obtenue.

Ce qui reste flou

Le document est court et manque de détails importants. Nous ne savons pas :

• sur quelles charges le système a été testé : bases de données, virtualisation, inférence IA ou autre ;
• de combien exactement les performances ont baissé, et dans quels percentiles de latence cela se voit ;
• quels SSD ont été utilisés et à quelle vitesse ils s'usent avec un swap constant ;
• si l'économie est mesurée ou calculée. Le mot « estimé » laisse penser qu'il s'agit plutôt d'un calcul.

La formule « sans perte » du titre sonne comme du marketing. Le texte lui-même dit seulement qu'il ne devrait pas y avoir de baisse de vitesse notable, ce qui est une tout autre promesse.

Que faire en pratique

Si vous êtes responsable de l'infrastructure, quelques questions méritent d'être posées dès maintenant.

Premièrement : quelle part de votre mémoire est réellement chaude. Si vos services gardent en DRAM beaucoup de données rarement consultées, il y a un potentiel d'économie. Si presque tout est sollicité en permanence, il n'y a rien à déplacer vers le SSD.

Deuxièmement : votre sensibilité aux latences de queue. Pour le traitement par lots et l'analytique, quelques millisecondes de plus sur des accès rares sont tolérables. Pour des services soumis à des SLA stricts, c'est un risque.

Troisièmement : les prix de la mémoire. Plus la DRAM est chère, plus l'argument en faveur d'une architecture hiérarchisée est fort, et pour les serveurs d'IA, où la mémoire est déjà rare, c'est particulièrement vrai.

Pour l'instant, MEXT ressemble à un signal intéressant plutôt qu'à une recette prête à l'emploi. Attendez des tests indépendants et une comparaison avec les mécanismes de swap classiques avant de revoir vos configurations de serveurs.