AMD MEXT move dados «frios» da DRAM para SSD e economiza US$ 5 milhões em 145 servidores

A memória RAM nos servidores há muito deixou de ser um detalhe no orçamento. Quando se enche uma máquina com centenas de gigabytes de DRAM para que «sobre», boa parte dessa reserva fica parada na maior parte do tempo. A AMD propõe resolver isso: sua tecnologia MEXT move dados pouco usados da DRAM para SSDs muito mais baratos, e algoritmos de IA cuidam para que o desempenho não caia de forma perceptível.

Qual é o problema

Imagine a cozinha de um restaurante. As especiarias usadas a cada minuto ficam na bancada do cozinheiro. O saco de farinha que é aberto uma vez por semana fica no depósito. Ninguém mantém o depósito inteiro na bancada de trabalho, porque a bancada é cara e pequena.

Com a memória de servidor, muitas vezes acontece o contrário. O aplicativo carregou na DRAM um grande volume de dados: caches, índices, estados de serviços, pedaços de bancos de dados. O acesso a eles é desigual: parte dos dados é necessária o tempo todo, parte fica semanas sem que ninguém precise. Mas é preciso pagar por eles o preço da memória mais rápida.

Como funciona

Segundo a descrição, o MEXT identifica páginas de dados «frias» e as move da DRAM para o SSD. Os dados quentes permanecem na memória RAM. A principal dificuldade é acertar o que realmente é frio. Se errar e enviar ao disco algo que será necessário um segundo depois, o aplicativo passa a esperar o armazenamento e as latências aumentam. Por isso a AMD incorpora algoritmos de IA: eles ajudam a decidir quais dados podem ser removidos com segurança, para que não haja queda perceptível de desempenho.

A ideia não é nova: memória em camadas e swap existem há décadas. A novidade é que a solução é apresentada como uma tecnologia pronta do fabricante de hardware, e a escolha dos dados a mover passa a ser preditiva.

Esses são os números da AMD: nos primeiros 145 sistemas de servidor, a empresa estimou uma economia de aproximadamente US$ 5 milhões. Dividindo, dá cerca de US$ 34 mil por sistema. Essa é uma conclusão aritmética nossa, e não uma declaração da AMD. O título original também traz uma tese mais ousada sobre substituir metade da DRAM, mas a descrição disponível não detalha como essa proporção foi obtida.

O que ainda não está claro

O material é curto e não traz detalhes importantes. Não sabemos:

• em quais cargas o sistema foi testado: bancos de dados, virtualização, inferência de IA ou outra coisa;
• quanto exatamente o desempenho caiu e em quais percentis de latência isso aparece;
• quais SSDs foram usados e com que rapidez se desgastam com swap constante;
• se a economia foi medida ou calculada. A palavra «estimou» sugere que se trata mais de um cálculo.

A frase «sem perdas» do título soa como marketing. No próprio texto, diz-se apenas que não deve haver queda perceptível de velocidade, o que é uma promessa bem diferente.

O que fazer na prática

Se você é responsável pela infraestrutura, vale fazer já algumas perguntas.

Primeira: que parcela da sua memória é realmente quente. Se os serviços mantêm na DRAM muitos dados acessados raramente, há potencial de economia. Se quase tudo está em uso constante, não há o que mover para o SSD.

Segunda: quão sensível você é a latências de cauda. Para processamento em lote e análise, alguns milissegundos extras em acessos raros são toleráveis. Para serviços com SLAs rígidos, isso é um risco.

Terceira: os preços da memória. Quanto mais cara a DRAM, mais forte o argumento a favor de um esquema em camadas, e para servidores de IA, onde a memória já é escassa, isso é especialmente relevante.

Por ora, o MEXT parece um sinal interessante, e não uma receita pronta. Aguarde testes independentes e a comparação com os mecanismos de swap comuns antes de rever as configurações dos seus servidores.