IA locale sur M1 : quand la magie d'Apple se heurte à la réalité

Vous souvenez-vous de ce que vous avez ressenti quand Apple a présenté la puce M1 ? C'est le moment où les ordinateurs portables Windows ont soudain eu l'air de pièces d'antiquaire. Nous nous étions habitués à ce que nos MacBook encaissent tout, du montage vidéo 4K à des centaines d'onglets Chrome. Puis l'ère des grands modèles de langage est arrivée, et cette magie s'est révélée avoir une limite bien concrète. Tenter de transformer un M1 en centre d'intelligence artificielle personnel avec Ollama a été une douche froide pour tous ceux qui croyaient à l'éternelle jeunesse de la première génération d'Apple Silicon.

Le contexte est simple : aujourd'hui, un blogueur tech sur deux vous pousse à résilier votre abonnement à ChatGPT au profit de modèles locaux. Les arguments sont solides : confidentialité, absence de censure et fonctionnement sans internet. Des outils comme Ollama ont rendu l'installation si simple que même votre grand-mère y arriverait. Vous téléchargez l'application, tapez une commande dans le terminal, et voilà Llama 3 ou Mistral installé directement sur votre SSD. Cela ressemble à une victoire, jusqu'à ce que vous appuyiez sur Entrée et commenciez à attendre.

Le principal problème, celui contre lequel les rêves se brisent, c'est la mémoire vive. Pendant des années, Apple nous a assuré que 8 Go de mémoire unifiée sur M1 équivalaient à 16 Go sur un PC classique. Pour naviguer sur le web, c'est peut-être vrai, mais les réseaux de neurones ne lisent pas les brochures marketing.

Les modèles de 4 ou 8 gigaoctets dévorent littéralement toutes les ressources du système. Dès que vous lancez quelque chose de plus sérieux que le plus simple des chatbots, le système se met à swapper frénétiquement sur le disque, et la vitesse de génération tombe à « un mot toutes les trois secondes ». Lire une telle réponse, c'est regarder un paresseux tenter de taper une thèse.

La deuxième mauvaise surprise, c'est la chaleur. Nous étions habitués à un M1 froid et silencieux. Mais l'IA locale sollicite à 100 % les cœurs graphiques et le Neural Engine. Après dix minutes de dialogue actif, le châssis évoque la surface d'une poêle, et le système active le throttling, ralentissant encore la génération de texte. Cela crée un paradoxe amusant : vous tenez une machine incroyablement intelligente qui connaît les réponses à toutes les questions de l'humanité, mais elle est trop occupée à ne pas fondre pour vous répondre vite.

À quoi sert donc cette expérience ? Elle met en lumière un basculement critique dans l'industrie. Apple a longtemps été avare en RAM sur les versions de base de ses appareils. Aujourd'hui, cette stratégie se retourne contre elle. Si l'entreprise veut vraiment déployer Apple Intelligence auprès du grand public, elle devra admettre que 8 Go ne sont plus un « étalon-or », mais une dette technique. Même l'architecture Unified Memory n'y change rien quand les poids du modèle ne tiennent tout simplement pas dans les puces physiques.

Pour l'industrie, cela marque le début d'une nouvelle course aux armements, où les mégahertz comptent moins que la bande passante et la capacité de la mémoire. Nous entrons dans une phase où l'IA locale cesse d'être une simple fonctionnalité logicielle pour devenir le principal moteur des ventes de matériel neuf. Si vous comptiez garder votre M1 encore quelques années pour travailler sur du texte, j'ai de mauvaises nouvelles : les réseaux de neurones vous pousseront à changer bien plus tôt que prévu.

Au final, l'expérience d'Ollama sur du matériel ancien n'est pas un échec du logiciel, mais un diagnostic honnête. Aujourd'hui, l'IA locale est un luxe réservé aux détenteurs de puces Max et Ultra dotées de beaucoup de RAM. Pour tous les autres, les solutions cloud comme ChatGPT ou Claude restent le seul moyen d'obtenir une vitesse raisonnable sans risquer de se brûler les genoux.

À retenir : Apple devra soit augmenter radicalement la mémoire du MacBook Air d'entrée de gamme, soit admettre que ses « ordinateurs portables les plus populaires » ne sont pas prêts pour l'avenir qu'elle a elle-même annoncé.