Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAnalyse · Sur le radarTG: @neurogen_news (Neurogen)→ original

Thinking Machines publie Inkling 2 Mini en open source : 26,4 milliards de paramètres pour un Mac de 32 Go

Thinking Machines a publié Inkling 2 Mini, un modèle conçu pour le code, la recherche et l'utilisation d'outils, capable de traiter le texte comme les images. Il compte 26,4 milliards de paramètres (la « capacité de connaissances » du réseau), mais seuls 3,4 milliards sont activés pour chaque token (fragment de mot). De ce fait, il tourne sur n'importe quel Mac à puce M disposant de 32 Go de mémoire. Les couches intermédiaires sont traitées trois fois, afin que le modèle raisonne plus en profondeur et verbalise moins. Pour les agents locaux, c'est une alternative qui ne nécessite pas le cloud.

Traité par IA depuis TG: @neurogen_news (Neurogen) ; édité par Hamidun News
Thinking Machines publie Inkling 2 Mini en open source : 26,4 milliards de paramètres pour un Mac de 32 Go
Source : TG: @neurogen_news (Neurogen). Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireTG: @neurogen_news (Neurogen) ↗
Rédacteur en chef
Chiffre clé #112 couches sur 24 sont traitées trois fois : 48 applications de couches par token
Fichiersenviron 25 Go en version compacte, 35 Go en 8 bits
Chiffre clé #3Sur PC, l'exécution est confirmée sur une RTX 5090 dotée de 32 Go de VRAM

Vous voulez faire tourner un assistant de code IA sur votre ordinateur portable, sans cloud ni factures d'API ? Jusqu'ici, il fallait choisir entre un petit modèle qui décroche rapidement sur les tâches complexes et un grand modèle qui exige un serveur. Thinking Machines a publié en accès libre Inkling 2 Mini et propose un compromis.

Le chiffre 26,4B du titre désigne 26,4 milliards de paramètres : c'est la taille totale du modèle, sa « capacité de connaissances », stockée sur le disque. Mais il s'agit d'une architecture MoE (mixture of experts, « mélange d'experts ») : pour chaque token, c'est-à-dire chaque petit fragment de texte, seule une partie des experts est activée, soit 3,4 milliards de paramètres actifs uniques. C'est pourquoi le modèle se comporte, en vitesse et en mémoire, plus proche d'un petit modèle, et qu'il peut tourner sur n'importe quel Mac à puce M disposant de 32 Go de mémoire unifiée.

Comment le modèle est conçu

Imaginez une grande bibliothèque où, pour chaque question, vous n'ouvrez que quelques rayons pertinents au lieu de lire tous les livres. C'est le principe du MoE.

Second point particulier : le looped transformer (« transformeur en boucle »). Le modèle compte 24 couches, dont 12 couches intermédiaires sont traitées trois fois de suite avec les mêmes poids. Au total, chaque token subit 48 applications de couches, ce qui donne, en tenant compte des passes répétées, 5,4B activations de poids par token. Les auteurs expliquent que le réseau peut ainsi effectuer davantage d'étapes de raisonnement en interne et consacrer moins de tokens à des explications à voix haute. Pour les agents, c'est un enjeu majeur : chaque token superflu signifie de l'attente et de la mémoire consommée par le contexte.

Pour que le modèle tienne sur du matériel grand public, les experts des 20 premières couches sont entraînés et distribués au format NVFP4, et ceux des quatre dernières au format MXFP8. Ce sont des formats compacts de stockage des nombres, qui occupent moins de place que les formats classiques.

Ce qu'il sait faire

Le modèle accepte en entrée du texte et des images, et répond en texte : code, analyse de documents et de captures d'écran. Les capacités annoncées comprennent l'appel d'outils, la recherche et les longues tâches agentiques dans un environnement doté d'outils connectés. Le contexte peut atteindre 1M de tokens, soit jusqu'à un million de fragments de texte pour une seule requête.

Dans leur démo, les auteurs ont fait développer en quelques minutes, sur un MacBook Pro M5 Pro de 48 Go, un simulateur de vol jouable, directement depuis l'avion. La source indique par ailleurs que le modèle aurait devancé Qwen3.8-27B sur les chiffres, mais les tests précis et leurs valeurs ne sont pas détaillés. Il convient de les consulter sur le blog de Thinking Machines et sur la page du modèle sur Hugging Face.

Ce qu'il faut pour le faire tourner

  • Mac : tout modèle à puce M disposant d'au moins 32 Go de mémoire unifiée, c'est le minimum. Avec une marge confortable, mieux vaut 48 à 64 Go, pour laisser de la place au système, aux autres applications et aux requêtes longues.
  • PC avec NVIDIA : l'exécution est confirmée sur une RTX 5090 dotée de 32 Go de VRAM. La recette publiée prévoit un contexte de 32 000 à 64 000 tokens. Il s'agit bien de la mémoire de la carte graphique, la RAM classique étant comptée à part.
  • RTX 3090, RTX 4090 de 24 Go et autres cartes : le minimum exact pour le GGUF (format de fichiers pour l'exécution locale) n'a pas encore été établi.
  • Disque : environ 25 Go pour la version compacte ou 35 Go pour la version 8 bits, auxquels s'ajoute une marge pour les fichiers du modèle.

L'exécution est possible via Ollama sur Mac, via Llama App sur Windows et macOS, et via llama.cpp sous Linux. Pour la RTX 5090, une variante avec SGLang est disponible. Les poids et la version GGUF sont hébergés sur Hugging Face, et le modèle peut être testé dans le chat de démonstration.

Limites et conclusion pratique

Il y a plusieurs réserves. Un million de tokens de contexte nécessitera de la mémoire supplémentaire, et sur une configuration de 32 Go, un tel volume n'est pas garanti. Les 32 000 à 64 000 tokens confirmés sur RTX 5090 constituent en revanche un repère fiable. Pour les propriétaires de cartes de 24 Go, on ne peut rien affirmer de précis pour l'instant, et la comparaison avec Qwen3.8-27B est présentée sans détails.

Que doivent faire les développeurs ? Si vous concevez des agents locaux ou des assistants de code et que vous disposez d'un Mac de 32 Go ou plus, Inkling 2 Mini mérite d'être testé sur vos propres tâches. Un bon test consiste en une longue chaîne d'étapes avec appels d'outils : c'est là que l'économie de tokens annoncée grâce aux passes répétées devrait se manifester. Si votre carte graphique ne dispose que de 24 Go, mieux vaut attendre que la communauté établisse la configuration minimale requise pour le GGUF.

Dossier

Questions clés sur cet article

Comment le modèle est conçu?

Imaginez une grande bibliothèque où, pour chaque question, vous n'ouvrez que quelques rayons pertinents au lieu de lire tous les livres. C'est le principe du MoE. Second point particulier : le looped transformer (« transformeur en boucle »). Le modèle compte 24 couches, dont 12 couches intermédiaires sont traitées trois fois de suite avec les mêmes poids. Au total, chaque token subit 48 applications de couches, ce qui donne, en tenant compte des passes répétées, 5,4B activations de poids par token.

Que sait-on sur Ce qu'il sait faire ?

Le modèle accepte en entrée du texte et des images, et répond en texte : code, analyse de documents et de captures d'écran. Les capacités annoncées comprennent l'appel d'outils, la recherche et les longues tâches agentiques dans un environnement doté d'outils connectés. Le contexte peut atteindre 1M de tokens, soit jusqu'à un million de fragments de texte pour une seule requête.

Que sait-on sur Ce qu'il faut pour le faire tourner ?

Mac : tout modèle à puce M disposant d'au moins 32 Go de mémoire unifiée, c'est le minimum. Avec une marge confortable, mieux vaut 48 à 64 Go, pour laisser de la place au système, aux autres applications et aux requêtes longues. PC avec NVIDIA : l'exécution est confirmée sur une RTX 5090 dotée de 32 Go de VRAM. La recette publiée prévoit un contexte de 32 000 à 64 000 tokens. Il s'agit bien de la mémoire de la carte graphique, la RAM classique étant comptée à part.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…