Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAnalyse · Sur le radarX: @TeksEdge→ original

Inkling 2 Mini, ouverte et exploitable sur 16 Go de mémoire, rattrape Qwen3.8-27B dans un classement indépendant

Thinking Machines a publié Inkling 2 Mini, un modèle ouvert qui tourne sur un ordinateur portable doté de 16 Go de mémoire. Dans le classement indépendant Artificial Analysis, il fait jeu égal avec Qwen3.8-27B. Il parcourt 12 couches intermédiaires sur 24 trois fois, comme un éditeur qui relit son texte à plusieurs reprises : cela fait 48 passes pour 24 couches réellement stockées. De plus, chaque mot n'active que 5,4 milliards des 26,4 milliards de paramètres. Pour les assistants locaux, c'est une occasion de se passer d'une carte graphique coûteuse.

Traité par IA depuis X: @TeksEdge ; édité par Hamidun News
Inkling 2 Mini, ouverte et exploitable sur 16 Go de mémoire, rattrape Qwen3.8-27B dans un classement indépendant
Source : X: @TeksEdge. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireX: @TeksEdge ↗
Rédacteur en chef
Chiffre clé #1Unsloth a déjà mis en ligne des versions GGUF pour un lancement local
Chiffre clé #2Un contexte d'un million de tokens sur 16 Go n'est pas réaliste
Chiffre clé #3llama.cpp exige encore une compilation spécifique prenant en charge les couches bouclées

D'ordinaire, un modèle puissant suppose beaucoup de mémoire : plus un réseau de neurones est intelligent, plus il faut garder de poids dans la carte graphique ou la mémoire vive, et faire tourner l'ensemble sur un ordinateur portable reste un rêve. Thinking Machines, société américaine, a publié le modèle ouvert Inkling 2 Mini, qui tente de briser cette habitude. Selon le message de l'observateur @TeksEdge, il fait jeu égal avec Qwen3.8-27B, un modèle dense de 27 milliards de paramètres issu de la gamme Qwen, dans l'Artificial Analysis Intelligence Index (un classement indépendant agrégeant des modèles comparés sur un ensemble de tests). Pourtant, Inkling 2 Mini fonctionne sur une machine dotée de 16 Go de mémoire.

Comment 24 couches deviennent 48

Inkling 2 Mini ne compte que 24 couches de transformeur. Plutôt que d'en ajouter, les auteurs bouclent le milieu du réseau : pour chaque token (un fragment de mot), le modèle parcourt trois fois de suite 12 couches intermédiaires. On obtient donc 48 exécutions de couches pour 24 réellement stockées.

Une comparaison du quotidien : au lieu de trois éditeurs, un seul relit trois fois le texte et améliore chaque fois ses corrections. Les calculs augmentent, mais l'« effectif », c'est-à-dire l'ensemble des poids, reste réduit. Pour un lancement en local, cela compte, car le goulet d'étranglement est généralement la mémoire, et non le temps d'une passe.

La seconde source d'économie tient à l'architecture Mixture of Experts (MoE) : le modèle se compose de nombreux « experts », et seule une partie d'entre eux s'active pour chaque token. Au total, Inkling 2 Mini compte 26,4 milliards de paramètres, mais seuls 5,4 milliards sont actifs. C'est environ cinq fois moins que Qwen3.8-27B, où les 27 milliards travaillent en permanence. Moins de poids actifs signifie une génération plus rapide et une charge moindre pour le matériel.

Les chiffres et le lancement

Dans le message, Qwen3.8-27B affiche un score de 20,1 à l'Artificial Analysis Intelligence Index v5, tandis qu'Inkling 2 Mini est donné à 48,2 % et 77,9 %, les légendes de ces deux valeurs étant inversées dans le message. En revanche, un point important est énoncé : l'indice Artificial Analysis est évalué de manière indépendante, alors que les résultats en programmation proviennent de benchmarks publiés par Thinking Machines elle-même. Mieux vaut vérifier les scores exacts sur le site d'Artificial Analysis et sur la fiche du modèle, et tester les affirmations de l'entreprise sur le code à partir de vos propres tâches.

Sur le plan pratique, la situation est la suivante :

  • Les poids sont ouverts : le modèle peut être exécuté en local et affiné.
  • Unsloth a publié des versions GGUF, dont une quantification compacte pour les systèmes de 16 Go.
  • Les Mac dotés de 32 Go ou plus sont pris en charge via Ollama.
  • Thinking Machines a montré le modèle fonctionnant entièrement hors ligne sur un MacBook Pro, produisant un simulateur de vol jouable.

Limites

Première limite : le contexte annoncé d'un million de tokens n'est pas réaliste sur 16 Go. Le cache du long contexte consomme vite la mémoire, si bien qu'un matériel modeste impose des fenêtres bien plus courtes.

Deuxième limite : llama.cpp exige encore une compilation distincte prenant en charge les couches bouclées. Une version standard ne suffit pas avec cette architecture, et le lancement demandera pour l'instant de la compilation ou d'attendre que le support soit intégré à la branche principale.

Troisième limite : une comparaison sur un indice agrégé ne garantit pas la supériorité sur votre cas d'usage. Les scénarios agentiques, le travail en russe et les longues chaînes d'appels d'outils peuvent donner un tableau différent.

Que faire de tout cela

Si vous développez des assistants locaux, des outils de code hors ligne ou des chaînes de traitement privées, cette sortie présente deux intérêts. D'abord, elle montre une alternative concrète à la simple augmentation du nombre de paramètres : la réutilisation des couches offre davantage de « réflexion » sans accroître le nombre de poids. Ensuite, c'est un solide modèle ouvert américain, dans un segment local largement dominé par les gammes chinoises Qwen et DeepSeek.

Conseil pratique : si vous disposez d'un ordinateur portable de 16 à 32 Go, téléchargez le GGUF d'Unsloth, compilez llama.cpp avec la prise en charge nécessaire et testez le modèle sur vos tâches, en le comparant à Qwen. Décidez à partir de vos propres mesures de vitesse, de qualité de code et de stabilité sur votre contexte, et non sur la base d'un classement.

Dossier

Questions clés sur cet article

Comment 24 couches deviennent 48?

Inkling 2 Mini ne compte que 24 couches de transformeur. Plutôt que d'en ajouter, les auteurs bouclent le milieu du réseau : pour chaque token (un fragment de mot), le modèle parcourt trois fois de suite 12 couches intermédiaires. On obtient donc 48 exécutions de couches pour 24 réellement stockées. Une comparaison du quotidien : au lieu de trois éditeurs, un seul relit trois fois le texte et améliore chaque fois ses corrections.

Que sait-on sur Les chiffres et le lancement ?

Dans le message, Qwen3.8-27B affiche un score de 20,1 à l'Artificial Analysis Intelligence Index v5, tandis qu'Inkling 2 Mini est donné à 48,2 % et 77,9 %, les légendes de ces deux valeurs étant inversées dans le message. En revanche, un point important est énoncé : l'indice Artificial Analysis est évalué de manière indépendante, alors que les résultats en programmation proviennent de benchmarks publiés par Thinking Machines elle-même.

Que sait-on sur Limites ?

Première limite : le contexte annoncé d'un million de tokens n'est pas réaliste sur 16 Go. Le cache du long contexte consomme vite la mémoire, si bien qu'un matériel modeste impose des fenêtres bien plus courtes. Deuxième limite : llama.cpp exige encore une compilation distincte prenant en charge les couches bouclées. Une version standard ne suffit pas avec cette architecture, et le lancement demandera pour l'instant de la compilation ou d'attendre que le support soit intégré à la branche principale.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…