Départ 23/11Cohorte 3 en direct Vibe Coding & Agents IA : 3 semaines, 9 sessions liveCohorte 3 (23/11) →
SortieAnalyse · Sur le radarTNW→ original

Baseten lance joey-1 : un modèle qui répond « oui/non » en 20 ms pour 0,01 $ le million de tokens

Baseten publie joey-1, un modèle ouvert de 2 milliards de paramètres qui ne génère pas de texte : il renvoie un « oui/non » ou le numéro d'une option, accompagné d'une probabilité, par exemple « spam, 94 % ». Le million de tokens (fragments de texte servant de base au calcul du prix) coûte 0,01 $, et une requête de 2000 tokens est traitée en 20 ms. Pour trier des tickets, détecter le spam ou bloquer des prompts malveillants, cela suffit sans recourir à un grand LLM. Il est donc plus avantageux de confier la classification courante à des modèles spécialisés.

Traité par IA depuis TNW ; édité par Hamidun News
Baseten lance joey-1 : un modèle qui répond « oui/non » en 20 ms pour 0,01 $ le million de tokens
Source : TNW. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireTNW ↗
Rédacteur en chef
Chiffre clé #1Étiquetage de 10 millions de tickets par mois : environ 50 $ contre 500 $ avec mammoth-1
2,5 fois plus rapide qu'elephant-1 ; baseQwen3.5-2B d'Alibaba
Chiffre clé #3Poids ouverts sur Hugging Face sous licence MIT

De nombreuses entreprises font tourner de grands modèles de langage sur des tâches où le texte n'est pas nécessaire : détecter un spam, choisir la file d'attente d'une demande client, repérer une tentative de contournement de la protection. Une réponse courte, « oui », « non » ou « option B », suffit largement. Baseten a justement publié joey-1, un modèle ouvert de 2 milliards de paramètres conçu pour cet usage.

Il ne rédige pas de paragraphes : il renvoie une réponse et une probabilité, par exemple « spam, confiance de 94 % ». Selon la société, une requête type de 2000 tokens (un token est un fragment de mot, sur lequel se calcule le prix) est traitée en environ 20 millisecondes, et le million de tokens coûte 0,01 $.

En quoi joey-1 diffère d'un LLM classique

Un modèle de langage classique répond par du texte, qu'il faut ensuite analyser par du code : chercher le mot « oui », vérifier le format, filtrer le bavardage superflu. Joey-1 fonctionne autrement : il livre directement un choix et un chiffre indiquant le niveau de confiance du modèle.

Cette probabilité est pratique en production. Les cas certains peuvent être traités automatiquement, tandis que les cas douteux sont transmis à un humain ou à un modèle plus puissant. C'est un schéma familier : un filtre peu coûteux en premier, puis une analyse onéreuse uniquement pour les cas litigieux.

Joey-1 appartient à la même gamme que les modèles plus grands mammoth-1 et elephant-1, publiés une semaine plus tôt par le laboratoire de recherche de Baseten, Base Labs. TypeSafe AI a présenté une approche similaire en septembre : le format « modèle-solveur » s'affirme peu à peu comme un créneau à part entière.

Combien cela coûte et ce qu'il y a sous le capot

Baseten avance un calcul simple : l'étiquetage de 10 millions de tickets de support par mois coûterait environ 50 $ avec joey-1, contre près de 500 $ avec mammoth-1. En vitesse, joey-1 est environ 2,5 fois plus rapide qu'elephant-1. À titre de comparaison, Microsoft a publié ce mois-ci son propre modèle basé sur Qwen au tarif de 0,042 $ le million de tokens, soit environ quatre fois plus cher.

Joey-1 repose sur Qwen3.5-2B d'Alibaba. Baseten l'a affiné sur 6,21 millions d'exemples de décisions. Les poids sont disponibles sur Hugging Face sous licence MIT : ils peuvent être utilisés librement dans des produits commerciaux et exécutés sur vos propres serveurs.

Ce qu'il faut vérifier avant de déployer

Une réserve importante s'impose. Baseten présente joey-1 comme le modèle de décision le plus performant parmi ceux qui comptent au plus 3 milliards de paramètres, mais les tests sur lesquels repose cette affirmation n'ont pas encore été publiés. Sur la fiche du modèle, il occupe la 37e place sur 230 dans le classement Jev Decision Index, avec le meilleur résultat parmi les modèles de moins de 4 milliards de paramètres.

Pour cette taille, le score est bon, mais un classement global ne garantit pas que le modèle saura traiter vos tickets ou appliquer votre propre définition d'une requête « malveillante ». Quant à la vitesse et au prix, ils sont également annoncés par la société elle-même, sans mesures indépendantes dans la source.

Le conseil pratique pour les équipes est le suivant. Si un grand LLM sert chez vous au tri, au filtrage ou au routage, constituez un petit jeu d'exemples annotés par vos soins et comparez joey-1 à votre solution actuelle en termes de précision et de coût. Grâce aux poids ouverts et à la licence MIT, un essai pilote coûte presque rien.

Second conseil : utiliser la probabilité comme seuil. Les réponses sûres peuvent être traitées automatiquement, tandis que les cas incertains partent en vérification manuelle ou vers un modèle plus puissant. Vous préservez ainsi la qualité tout en réduisant la facture sur la majorité des requêtes.

Pour Baseten, il s'agit aussi d'une question de positionnement. La société aide les entreprises à déployer des modèles, elle a été valorisée jusqu'à 13 milliards de dollars en juin, et elle publie désormais ses propres modèles. Les modèles de décision bon marché sont un moyen efficace d'attirer des clients qui ont besoin d'inférence massive plutôt que de textes soignés.

Dossier

Questions clés sur cet article

Que sait-on sur En quoi joey-1 diffère d'un LLM classique ?

Un modèle de langage classique répond par du texte, qu'il faut ensuite analyser par du code : chercher le mot « oui », vérifier le format, filtrer le bavardage superflu. Joey-1 fonctionne autrement : il livre directement un choix et un chiffre indiquant le niveau de confiance du modèle. Cette probabilité est pratique en production. Les cas certains peuvent être traités automatiquement, tandis que les cas douteux sont transmis à un humain ou à un modèle plus puissant.

Que sait-on sur Combien cela coûte et ce qu'il y a sous le capot ?

Baseten avance un calcul simple : l'étiquetage de 10 millions de tickets de support par mois coûterait environ 50 $ avec joey-1, contre près de 500 $ avec mammoth-1. En vitesse, joey-1 est environ 2,5 fois plus rapide qu'elephant-1. À titre de comparaison, Microsoft a publié ce mois-ci son propre modèle basé sur Qwen au tarif de 0,042 $ le million de tokens, soit environ quatre fois plus cher. Joey-1 repose sur Qwen3.5-2B d'Alibaba. Baseten l'a affiné sur 6,21 millions d'exemples de décisions.

Que sait-on sur Ce qu'il faut vérifier avant de déployer ?

Une réserve importante s'impose. Baseten présente joey-1 comme le modèle de décision le plus performant parmi ceux qui comptent au plus 3 milliards de paramètres, mais les tests sur lesquels repose cette affirmation n'ont pas encore été publiés. Sur la fiche du modèle, il occupe la 37e place sur 230 dans le classement Jev Decision Index, avec le meilleur résultat parmi les modèles de moins de 4 milliards de paramètres.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…