IA local no M1: como a mágica da Apple bateu na realidade

Lembra da sensação quando a Apple apresentou o chip M1? Foi o momento em que os notebooks com Windows de repente pareceram antiguidades. Nos acostumamos a ver nossos MacBooks darem conta de tudo, de edição de vídeo 4K a centenas de abas no Chrome. Mas chegou a era dos grandes modelos de linguagem, e descobriu-se que essa mágica tem um limite bem concreto. A tentativa de transformar o M1 em um centro pessoal de inteligência artificial com o Ollama foi uma ducha de água fria para quem acreditava na eterna juventude da primeira geração do Apple Silicon.

O contexto é simples: hoje, um em cada dois blogueiros de tecnologia pede que você cancele a assinatura do ChatGPT em favor de modelos locais. Os argumentos são fortes: privacidade, ausência de censura e funcionamento sem internet. Ferramentas como o Ollama deixaram a instalação tão simples que até a sua avó consegue. Você baixa o app, digita um comando no terminal e pronto: Llama 3 ou Mistral vivendo direto no seu SSD. Parece uma vitória, até você apertar Enter e começar a esperar.

O principal problema, onde os sonhos se espatifam, é a memória RAM. Durante anos a Apple nos convenceu de que 8 GB de memória unificada no M1 equivalem a 16 GB em PCs comuns. Para navegar na web, talvez seja verdade, mas redes neurais não leem folhetos de marketing. Modelos de 4 ou 8 gigabytes literalmente devoram todos os recursos do sistema. Assim que você roda algo mais sério que o chatbot mais simples, o sistema começa a fazer swap em disco freneticamente, e a velocidade de geração cai para "uma palavra a cada três segundos". Ler uma resposta assim é como ver uma preguiça tentando digitar uma tese.

A segunda surpresa desagradável é o aquecimento. Estávamos acostumados com o M1 frio e silencioso. Mas a IA local leva os núcleos gráficos e o Neural Engine a 100%. Depois de dez minutos de conversa ativa, a carcaça começa a lembrar a superfície de uma frigideira, e o sistema ativa o throttling, reduzindo ainda mais a velocidade de geração de texto. Isso cria um paradoxo curioso: você tem nas mãos uma máquina incrivelmente inteligente que sabe as respostas para todas as perguntas da humanidade, mas está ocupada demais tentando não derreter para responder rápido.

Por que esse experimento importa? Ele evidencia uma mudança crítica na indústria. Por muito tempo, a Apple foi avarenta com a RAM nas versões de entrada de seus dispositivos. Agora essa estratégia sai pela culatra. Se a empresa quer mesmo levar o Apple Intelligence às massas, terá de admitir que 8 GB não são mais um "padrão ouro", e sim dívida técnica. Nem a arquitetura Unified Memory ajuda quando os pesos do modelo simplesmente não cabem nos chips físicos.

Para a indústria, isso marca o início de uma nova corrida armamentista, em que megahertz valem menos que largura de banda e capacidade de memória. Estamos entrando numa fase em que a IA local deixa de ser apenas um recurso de software e se torna o principal motor de vendas de hardware novo. Se você pretendia usar o M1 por mais alguns anos para trabalhar com texto, tenho más notícias: as redes neurais vão forçar você a atualizar bem antes do planejado.

No fim das contas, o experimento com o Ollama em hardware antigo não é um fracasso do software, mas um diagnóstico honesto. Hoje, IA local é um luxo para quem tem chips Max e Ultra com muita RAM. Para todos os outros, soluções na nuvem como ChatGPT ou Claude continuam sendo a única forma de obter uma velocidade razoável sem o risco de queimar as pernas.

O ponto central: a Apple terá de aumentar radicalmente a memória do MacBook Air de entrada ou admitir que seus "notebooks mais populares" não estão prontos para o futuro que ela mesma anunciou.