Thinking Machines lance Inkling 2 Small : 594 milliards de paramètres, dont seulement 17 milliards actifs

Si vous avez déjà essayé de choisir un modèle pour des agents, vous connaissez le dilemme : les modèles performants sont chers et fermés, tandis que les modèles ouverts sont abordables, mais moins solides sur les longues tâches en plusieurs étapes. Thinking Machines, le laboratoire de Mira Murati, propose sa propre réponse : Inkling 2 Small, un modèle multimodal dont les poids doivent être publiés sous licence Apache 2.0 la semaine prochaine.

Ce qu'il contient

Inkling 2 Small repose sur une architecture clairsemée Mixture-of-Experts. Le moyen le plus simple de se la représenter est d'imaginer une grande polyclinique : elle compte 384 médecins, ou experts, mais seuls les huit plus adaptés sont appelés pour chaque patient, ou token. Le modèle comprend 48 couches de décodeur et totalise 594 milliards de paramètres. Lors de la génération, seuls 17 milliards sont actifs.

Concrètement, la vitesse et le coût de chaque token se rapprochent de ceux d'un modèle de classe 17B, tandis que les poids renferment nettement plus de « connaissances ». Une nuance souvent oubliée demeure toutefois : il faut quand même conserver en mémoire les 594 milliards de paramètres. Même en 8 bits, cela représente des centaines de gigaoctets. Impossible, donc, d'exécuter le modèle sur une seule carte graphique grand public. Il est destiné aux serveurs ou aux clusters multi-GPU.

Le modèle annonce également une entrée visuelle, une profondeur de raisonnement réglable et une fenêtre de contexte allant jusqu'à 1 million de tokens. La profondeur de raisonnement permet de choisir délibérément combien de temps le modèle « réfléchit » : moins pour les requêtes simples, davantage pour les plus complexes. C'est un levier direct pour maîtriser la facture d'inférence.

Priorité aux agents

Les auteurs positionnent le modèle pour des scénarios agentiques en plusieurs étapes. Trois capacités sont mises en avant. Premièrement, il peut vérifier visuellement son propre résultat : par exemple, générer une interface, examiner une capture d'écran, puis corriger la mise en page. Deuxièmement, il s'adapte à différents environnements d'exécution agentiques, ou harnesses, sans exiger un prompt et un jeu d'outils parfaitement ajustés à son fonctionnement. Troisièmement, il sait orchestrer ses propres pipelines de post-entraînement.

Ce dernier point est ambitieux, mais mérite une vérification indépendante. Il s'agit d'une affirmation des développeurs et l'annonce ne fournit aucune validation indépendante.

Côté chiffres, le modèle obtient 31 points dans l'Artificial Analysis Intelligence Index. Le résultat est modeste face aux poids lourds propriétaires et, en toute franchise, le modèle n'est pas un leader en intelligence générale. En revanche, il occupe la troisième place mondiale dans DesignArena, le classement consacré à la génération de frontends et d'interfaces, derrière seulement des poids lourds propriétaires. Pour les équipes qui développent des agents d'interface utilisateur et des générateurs d'interfaces, cet indicateur est plus pertinent que l'indice général.

Comment l'utiliser

Inkling 2 Small est actuellement disponible pour l'inférence et le fine-tuning sur Tinker, la plateforme propriétaire de Thinking Machines. Les poids complets doivent être publiés la semaine prochaine. Il sera alors possible de déployer le modèle sur sa propre infrastructure ou de le spécialiser avec ses propres données sans dépendre des conditions d'une API : la licence Apache 2.0 autorise les usages commerciaux.

Les conclusions pratiques sont les suivantes :

• Si vous développez des agents pour le frontend ou le design, ajoutez le modèle à vos benchmarks dès la publication des poids et comparez-le sur vos propres tâches, pas seulement dans les classements publics.
• Si vous ne disposez pas d'un cluster, estimez à l'avance le coût de l'hébergement. Les 17 milliards de paramètres actifs réduisent les besoins de calcul, mais pas ceux en mémoire.
• Si vous avez besoin d'un agent personnalisé pour un domaine étroit, la possibilité de fine-tuning sous licence ouverte en fait un candidat solide, surtout si les fournisseurs d'inférence le prennent rapidement en charge.

Limites

Pour l'instant, tout repose sur l'annonce du laboratoire. Il n'existe aucune mesure indépendante de la vitesse, du coût ou du comportement sur de longs contextes, et le score de 31 points dans l'indice indique qu'il ne faut pas attendre de miracle en matière de raisonnement général. En outre, les poids ne sont pas encore publiés : la promesse d'une licence Apache 2.0 ne devra être considérée comme tenue qu'une fois les fichiers effectivement disponibles.

Le fait n'en reste pas moins important : l'un des laboratoires les plus en vue du secteur arrive sur le marché des modèles ouverts avec un grand MoE multimodal et une licence permissive. Le marché des modèles agentiques ouverts accueille ainsi un nouvel acteur sérieux, avec davantage de choix et une pression accrue sur les prix.