Um cluster de 1000 Mac Mini M4 montado na China: fazendo as contas para encontrar a pegadinha

Uma história circula pelos canais do Telegram: na China, montaram um cluster de aproximadamente 1000 Mac Mini M4 e passaram a executar IA de forma totalmente local, sem recorrer à nuvem. Os argumentos parecem atraentes: preços a partir de $599 por unidade e consumo de 10–30 W por dispositivo, contra 300–500 W de um servidor com GPU. A ideia central dessa tendência é transformar a IA de uma assinatura mensal em um ativo próprio.

Não é possível verificar a história: a publicação não identifica a empresa nem o modelo, não informa a velocidade de geração, e seu único link leva ao canal do próprio autor. Por isso, vamos analisar o que pode estar por trás da proposta, em vez do suposto caso em si.

Que problema isso resolve

A inferência na nuvem funciona de forma simples: você paga por tokens ou por uma assinatura, e seus dados vão para o provedor. Para a saúde, o setor financeiro, o setor público e qualquer equipe que trabalhe com documentos sensíveis, isso costuma ser um impedimento. Além disso, a conta cresce com a carga de trabalho e é difícil de prever. Um cluster local muda a lógica: os dados permanecem dentro da infraestrutura, e os gastos passam a ser um investimento de capital. Você compra o hardware uma vez e, depois, paga principalmente por eletricidade e manutenção.

Onde a conta deixa de fechar

A comparação de “10–30 W contra 300–500 W” é inadequada. É preciso comparar a energia e o dinheiro gastos por token gerado, não os watts por dispositivo. A velocidade de inferência dos modelos de linguagem quase sempre é limitada pela largura de banda da memória. O Mac Mini M4 básico oferece cerca de 120 GB/s com 16 GB de memória unificada; a versão M4 Pro chega a aproximadamente 273 GB/s. Uma H100 para servidores oferece cerca de 3,35 TB/s, ou seja, de uma a duas ordens de grandeza a mais. Uma máquina pequena gera tokens de forma visivelmente mais lenta, e mil máquinas desse tipo não se transformam em uma única máquina grande.

O motivo é que um modelo grande precisa ser dividido entre os nós, enquanto as conexões Ethernet ou Thunderbolt são muito mais lentas que a memória. Por outro lado, mil máquinas funcionam bem em outro cenário: cada uma mantém sua própria cópia de um modelo pequeno e quantizado, com 7–14 bilhões de parâmetros, e as solicitações são distribuídas entre elas. Isso aumenta a quantidade de solicitações simultâneas, não o tamanho do modelo.

Por exemplo, um serviço interno que resume milhares de documentos por dia ou um chatbot de suporte baseado em um modelo de 8B se encaixa muito bem nesse arranjo: as tarefas são independentes, a qualidade de um modelo pequeno é suficiente e os dados não saem do escritório. Já executar nesse cluster um modelo com centenas de bilhões de parâmetros e latência aceitável não será possível.

O que fazer na prática

Primeiro, calcule o custo real por token: depreciação do hardware ao longo de 2–3 anos, eletricidade e tempo do administrador, divididos pela quantidade real de tokens gerados nesse período. Compare o resultado com o preço da API de um modelo na nuvem de qualidade equivalente. Para cargas pequenas e médias, a nuvem provavelmente será mais barata. A opção local leva vantagem com utilização alta e constante ou exigências rigorosas de privacidade.

Considere também a operação. Mil computadores de mesa com macOS exigem monitoramento próprio, atualizações, substituição de nós com defeito, racks e refrigeração. Nem o sistema operacional nem o formato foram projetados para servidores, de modo que os custos ocultos rapidamente consomem parte da economia.

Se a ideia parece interessante, não comece com mil máquinas. Use 2–4 Mac Mini, configure MLX, llama.cpp ou frameworks de cluster como o exo, execute seu modelo com suas próprias solicitações e meça tokens por segundo, latência e consumo de energia. Só depois amplie a instalação.

A conclusão: a ideia de um cluster privado com hardware barato e de baixo consumo é viável, mas para casos de uso específicos. Enquanto essa história não apresentar números, encare-a como um incentivo para fazer suas próprias contas, não como prova de que a nuvem está ficando obsoleta.