Baseten lance joey-1 : un modèle qui répond « oui/non » en 20 ms pour 0,01 $ le million de tokens
Baseten publie joey-1, un modèle ouvert de 2 milliards de paramètres qui ne génère pas de texte : il renvoie un « oui/non » ou le numéro d'une option, accompagné d'une probabilité, par exemple « spam, 94 % ». Le million de tokens (fragments de texte servant de base au calcul du prix) coûte 0,01 $, et une requête de 2000 tokens est traitée en 20 ms. Pour trier des tickets, détecter le spam ou bloquer des prompts malveillants, cela suffit sans recourir à un grand LLM. Il est donc plus avantageux de confier la classification courante à des modèles spécialisés.
Traité par IA depuis TNW ; édité par Hamidun News
De nombreuses entreprises font tourner de grands modèles de langage sur des tâches où le texte n'est pas nécessaire : détecter un spam, choisir la file d'attente d'une demande client, repérer une tentative de contournement de la protection. Une réponse courte, « oui », « non » ou « option B », suffit largement. Baseten a justement publié joey-1, un modèle ouvert de 2 milliards de paramètres conçu pour cet usage.
Il ne rédige pas de paragraphes : il renvoie une réponse et une probabilité, par exemple « spam, confiance de 94 % ». Selon la société, une requête type de 2000 tokens (un token est un fragment de mot, sur lequel se calcule le prix) est traitée en environ 20 millisecondes, et le million de tokens coûte 0,01 $.
En quoi joey-1 diffère d'un LLM classique
Un modèle de langage classique répond par du texte, qu'il faut ensuite analyser par du code : chercher le mot « oui », vérifier le format, filtrer le bavardage superflu. Joey-1 fonctionne autrement : il livre directement un choix et un chiffre indiquant le niveau de confiance du modèle.
Cette probabilité est pratique en production. Les cas certains peuvent être traités automatiquement, tandis que les cas douteux sont transmis à un humain ou à un modèle plus puissant. C'est un schéma familier : un filtre peu coûteux en premier, puis une analyse onéreuse uniquement pour les cas litigieux.
Joey-1 appartient à la même gamme que les modèles plus grands mammoth-1 et elephant-1, publiés une semaine plus tôt par le laboratoire de recherche de Baseten, Base Labs. TypeSafe AI a présenté une approche similaire en septembre : le format « modèle-solveur » s'affirme peu à peu comme un créneau à part entière.
Combien cela coûte et ce qu'il y a sous le capot
Baseten avance un calcul simple : l'étiquetage de 10 millions de tickets de support par mois coûterait environ 50 $ avec joey-1, contre près de 500 $ avec mammoth-1. En vitesse, joey-1 est environ 2,5 fois plus rapide qu'elephant-1. À titre de comparaison, Microsoft a publié ce mois-ci son propre modèle basé sur Qwen au tarif de 0,042 $ le million de tokens, soit environ quatre fois plus cher.
Joey-1 repose sur Qwen3.5-2B d'Alibaba. Baseten l'a affiné sur 6,21 millions d'exemples de décisions. Les poids sont disponibles sur Hugging Face sous licence MIT : ils peuvent être utilisés librement dans des produits commerciaux et exécutés sur vos propres serveurs.
Ce qu'il faut vérifier avant de déployer
Une réserve importante s'impose. Baseten présente joey-1 comme le modèle de décision le plus performant parmi ceux qui comptent au plus 3 milliards de paramètres, mais les tests sur lesquels repose cette affirmation n'ont pas encore été publiés. Sur la fiche du modèle, il occupe la 37e place sur 230 dans le classement Jev Decision Index, avec le meilleur résultat parmi les modèles de moins de 4 milliards de paramètres.
Pour cette taille, le score est bon, mais un classement global ne garantit pas que le modèle saura traiter vos tickets ou appliquer votre propre définition d'une requête « malveillante ». Quant à la vitesse et au prix, ils sont également annoncés par la société elle-même, sans mesures indépendantes dans la source.
Le conseil pratique pour les équipes est le suivant. Si un grand LLM sert chez vous au tri, au filtrage ou au routage, constituez un petit jeu d'exemples annotés par vos soins et comparez joey-1 à votre solution actuelle en termes de précision et de coût. Grâce aux poids ouverts et à la licence MIT, un essai pilote coûte presque rien.
Second conseil : utiliser la probabilité comme seuil. Les réponses sûres peuvent être traitées automatiquement, tandis que les cas incertains partent en vérification manuelle ou vers un modèle plus puissant. Vous préservez ainsi la qualité tout en réduisant la facture sur la majorité des requêtes.
Pour Baseten, il s'agit aussi d'une question de positionnement. La société aide les entreprises à déployer des modèles, elle a été valorisée jusqu'à 13 milliards de dollars en juin, et elle publie désormais ses propres modèles. Les modèles de décision bon marché sont un moyen efficace d'attirer des clients qui ont besoin d'inférence massive plutôt que de textes soignés.
- 22 nov. 2026Microsoft lance un modèle de 100 milliards de paramètres sur un seul CPU : des réponses jusqu'à 6,17 fois plus rapides
- 22 nov. 2026bitnet.cpp de Microsoft accélère les LLM sur CPU classique jusqu'à 6,17 fois et réduit la consommation d'énergie de 82 %
- 22 nov. 2026Les analystes ont fait le calcul : en 2028, 87 % de l'électricité d'Anthropic viendra du gaz, 11 % du charbon
- 22 nov. 2026Un agent de Microsoft a écrit à la main les poids d'un réseau de neurones et atteint 100 % de précision sur 13 tâches
Questions clés sur cet article
Que sait-on sur En quoi joey-1 diffère d'un LLM classique ?
Un modèle de langage classique répond par du texte, qu'il faut ensuite analyser par du code : chercher le mot « oui », vérifier le format, filtrer le bavardage superflu. Joey-1 fonctionne autrement : il livre directement un choix et un chiffre indiquant le niveau de confiance du modèle. Cette probabilité est pratique en production. Les cas certains peuvent être traités automatiquement, tandis que les cas douteux sont transmis à un humain ou à un modèle plus puissant.
Que sait-on sur Combien cela coûte et ce qu'il y a sous le capot ?
Baseten avance un calcul simple : l'étiquetage de 10 millions de tickets de support par mois coûterait environ 50 $ avec joey-1, contre près de 500 $ avec mammoth-1. En vitesse, joey-1 est environ 2,5 fois plus rapide qu'elephant-1. À titre de comparaison, Microsoft a publié ce mois-ci son propre modèle basé sur Qwen au tarif de 0,042 $ le million de tokens, soit environ quatre fois plus cher. Joey-1 repose sur Qwen3.5-2B d'Alibaba. Baseten l'a affiné sur 6,21 millions d'exemples de décisions.
Que sait-on sur Ce qu'il faut vérifier avant de déployer ?
Une réserve importante s'impose. Baseten présente joey-1 comme le modèle de décision le plus performant parmi ceux qui comptent au plus 3 milliards de paramètres, mais les tests sur lesquels repose cette affirmation n'ont pas encore été publiés. Sur la fiche du modèle, il occupe la 37e place sur 230 dans le classement Jev Decision Index, avec le meilleur résultat parmi les modèles de moins de 4 milliards de paramètres.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.