Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAPI / Produit · Prêt à l'emploiHabr AI→ original

Un Mac mini 16 Go à la place d'une API payante : Qwen analyse une photo de repas en 20 à 40 secondes

Le propriétaire d'une application de vie saine a cessé de payer une API cloud. Une présentation ou un PDF traité via Claude ou ChatGPT coûtait parfois jusqu'à 3 $ le fichier, alors il a fait tourner les modèles sur un Mac mini de bureau doté de 16 Go de mémoire. Qwen reconnaît une photo de repas en 20 à 40 secondes, et le modèle de 14 milliards de paramètres génère environ 11 tokens par seconde. Pour des tâches de fond répétitives, cela suffit, mais acheter un Mac pour réaliser cette économie ne vaut pas la peine.

Traité par IA depuis Habr AI ; édité par Hamidun News
Un Mac mini 16 Go à la place d'une API payante : Qwen analyse une photo de repas en 20 à 40 secondes
Source : Habr AI. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireHabr AI ↗
Rédacteur en chef
Chiffre clé #1Le modèle de 32 milliards de paramètres demande environ 20 Go et ne tient pas dans 16 Go
Chiffre clé #2Une RTX 3060 d'occasion exécute le même modèle 14B environ deux fois plus vite (selon des tests tiers)
Chiffre clé #3En quelques jours, la passerelle sans clé a reçu 277 tentatives de connexion, toutes refusées

Chaque requête adressée à Claude ou ChatGPT via l'API (l'accès payant à un modèle d'IA depuis du code) coûte de l'argent : une présentation ou un PDF peut revenir à 3 dollars le fichier, et dix requêtes à environ un dollar. Le propriétaire d'une petite entreprise et d'une application de vie saine a décidé de ne plus payer et de faire tourner les modèles chez lui. Il a pris un Mac mini de bureau inutilisé doté de 16 Go de mémoire vive, installé Ollama (un logiciel pour exécuter des modèles sur son propre ordinateur) et le modèle ouvert Qwen.

Désormais, Qwen analyse une photo de repas en 20 à 40 secondes, et le modèle de 14 milliards de paramètres produit environ 11 tokens (à peu près des syllabes) par seconde. C'est gratuit, mais avec des réserves détaillées plus bas.

Pourquoi un modèle local

Le calcul est simple. Pour un travail ponctuel, 3 dollars le fichier ne représentent rien, mais pour un service qui reçoit un flux constant de requêtes, cela devient un poste budgétaire. Un modèle local supprime le coût par requête : la clé d'accès, on se la délivre soi-même, et les données ne transitent pas par des serveurs tiers.

La tâche principale aujourd'hui est la reconnaissance de photos de repas pour l'application. Il s'agit du modèle de vision Qwen, qui comprend les images : la qualité est acceptable et le coût nul. Compter 20 à 40 secondes par photo est acceptable pour un scénario en arrière-plan où l'utilisateur n'attend pas de réponse immédiate. Pour un chat en temps réel, ce n'est plus le cas.

Ce que le Mac mini apporte réellement

Une carte graphique dédiée dispose de sa propre mémoire : une RTX, par exemple, en a 12 Go, et le modèle doit tenir dans cet espace. Sur un Mac équipé d'un processeur ARM, la mémoire est partagée et la quasi-totalité de la RAM peut être allouée au modèle. Sur la version 16 Go, le GPU peut utiliser environ 10,7 Go, le reste étant occupé par le système. C'est même moins que sur une RTX.

D'où les chiffres concrets. Un modèle de 14 milliards de paramètres occupe environ 9 Go et tient entièrement en mémoire. Un modèle de 32 milliards en demande environ 20 Go et ne tient pas. L'auteur en tire une conclusion honnête : l'avantage de la mémoire partagée sur 16 Go fonctionne peu, il ne commence réellement qu'à partir de configurations de 32 Go.

La vitesse reste modeste : environ 11 tokens par seconde sur le modèle 14B. Selon des tests tiers, une RTX 3060 d'occasion exécute le même modèle environ deux fois plus vite. Les atouts du Mac sont ailleurs. Ollama s'installe en une seule commande et utilise directement le GPU, sans pilotes à installer. La machine est petite et silencieuse : environ 4 W au repos et jusqu'à 65 W sous charge. Elle peut aussi servir de serveur domestique pour les données. Enfin, l'auteur a récupéré l'appareil presque gratuitement : un modèle neuf coûterait environ 60 à 70 mille roubles.

Un agent à la place de l'administrateur, et quelques déconvenues

L'auteur a confié la configuration à Claude Code : l'agent a installé les modèles, paramétré l'accès et rédigé des instructions pour que les modèles légers produisent le format attendu. La connexion est soigneusement sécurisée : accès SSH uniquement par clé, mots de passe désactivés, pas d'adresse IP publique ni de ports ouverts sur le Mac. Les développeurs et l'application se connectent à la machine via un tunnel passant par le serveur de l'auteur.

Cette protection s'est révélée utile. Claude Code a relevé des statistiques : en quelques jours, 277 tentatives de connexion sans clé ont frappé la passerelle réservée aux programmeurs. L'auteur attribue ces tentatives à des scanners qui repèrent toute nouvelle adresse. Toutes ont été refusées.

Il y a eu aussi des problèmes :

  • Le modèle llama3.2-vision a cessé de reconnaître les plats. Il ne fonctionne plus dans la nouvelle version d'Ollama, il a donc été remplacé par Qwen.
  • Le DNS a cessé de fonctionner : la connexion existait en théorie, mais aucun site ne s'ouvrait. Claude en a trouvé la cause et l'a expliquée.
  • Après une coupure de courant, le disque chiffré a réclamé un mot de passe au démarrage. Pendant plusieurs jours, en l'absence de l'auteur au bureau, personne n'a pu accéder à la machine.

D'autres modèles, comme DeepSeek, restent pour l'instant inutilisés. L'équipe a aussi envisagé le Mac dans le configurateur de matériel serveur, mais le projet est encore en développement et ne compte qu'un seul programmeur.

La conclusion pour un praticien

Un serveur local se justifie lorsqu'il traite beaucoup de requêtes répétitives qui n'exigent pas une qualité maximale : reconnaissance d'images, documents types, traitement en arrière-plan. Sans volume important de tâches via API, il n'y a pas de raison d'acheter un Mac mini pour cela. Si un ordinateur doté d'une carte graphique existe déjà, il est moins coûteux de prendre une RTX d'occasion et d'y installer Ollama. Si le choix se porte sur un Mac pour exécuter de gros modèles, il faut viser au minimum 32 Go : avec 16 Go, la limite se situe autour de modèles comme le 14B.

Avant le lancement, vérifiez trois points : les modèles fonctionnent-ils encore après une mise à jour d'Ollama, comment accéder à la machine après une coupure de courant (disque chiffré), et l'accès externe est-il fermé en dehors de la connexion par clé. C'est de l'ingénierie peu spectaculaire, mais c'est elle qui détermine si l'économie est réelle.

Dossier

Questions clés sur cet article

Pourquoi un modèle local?

Le calcul est simple. Pour un travail ponctuel, 3 dollars le fichier ne représentent rien, mais pour un service qui reçoit un flux constant de requêtes, cela devient un poste budgétaire. Un modèle local supprime le coût par requête : la clé d'accès, on se la délivre soi-même, et les données ne transitent pas par des serveurs tiers. La tâche principale aujourd'hui est la reconnaissance de photos de repas pour l'application.

Que sait-on sur Ce que le Mac mini apporte réellement ?

Une carte graphique dédiée dispose de sa propre mémoire : une RTX, par exemple, en a 12 Go, et le modèle doit tenir dans cet espace. Sur un Mac équipé d'un processeur ARM, la mémoire est partagée et la quasi-totalité de la RAM peut être allouée au modèle. Sur la version 16 Go, le GPU peut utiliser environ 10,7 Go, le reste étant occupé par le système. C'est même moins que sur une RTX. D'où les chiffres concrets. Un modèle de 14 milliards de paramètres occupe environ 9 Go et tient entièrement en mémoire.

Que sait-on sur Un agent à la place de l'administrateur, et quelques déconvenues ?

L'auteur a confié la configuration à Claude Code : l'agent a installé les modèles, paramétré l'accès et rédigé des instructions pour que les modèles légers produisent le format attendu. La connexion est soigneusement sécurisée : accès SSH uniquement par clé, mots de passe désactivés, pas d'adresse IP publique ni de ports ouverts sur le Mac. Les développeurs et l'application se connectent à la machine via un tunnel passant par le serveur de l'auteur. Cette protection s'est révélée utile.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…