Google lance l'API Gemini Decisions : jusqu'à 1 000 vérifications en une seule requête

Un agent reçoit une demande de client : doit-il répondre lui-même, chercher des informations ou transmettre la tâche à un opérateur ? Pour ce type de choix, les développeurs appellent souvent un modèle de langage classique, attendent la réponse et analysent le JSON obtenu. Google a présenté l'API Gemini Decisions, un service distinct qui évalue des options prédéfinies sans génération séquentielle de texte. Selon l'entreprise, la latence est de 150 à 250 ms et le prix de 0,10 $ par million de tokens en entrée. Pour une équipe, c'est l'occasion de mesurer combien de temps et d'argent son produit consacre précisément aux décisions intermédiaires.

Un document, plusieurs vérifications

L'API repose sur un nouveau modèle, Gemini Decision 1. Le développeur transmet des données d'entrée communes et un ensemble de questions indépendantes. Le service prend en charge le texte, les images, l'audio, la vidéo et les PDF : on peut par exemple combiner l'enregistrement d'une conversation avec les données d'un compte, ou le scan d'une réclamation avec des photos d'un produit endommagé.

Prenons le service de retours d'une boutique en ligne. Un acheteur envoie la photo d'une tasse cassée et affirme que l'emballage était intact. Une seule requête permet de vérifier la présence d'un dommage visible, de choisir la prochaine étape parmi les options proposées et d'évaluer la gravité du problème selon une échelle donnée. Les éléments communs sont transmis une seule fois, et les réponses arrivent accompagnées de probabilités.

Trois formats sont prévus : une vérification « oui ou non », un choix parmi 2 à 255 options et une évaluation sur une échelle ordonnée. Dans ce dernier cas, le service renvoie une note pondérée et les probabilités de chaque niveau. Une requête peut contenir au total jusqu'à 1 000 questions, et le contexte d'entrée peut atteindre 256 000 tokens.

L'intérêt pratique tient à la réduction du travail répété. Si un même document doit être contrôlé selon plusieurs règles, il n'est pas nécessaire de l'envoyer dans un appel génératif distinct pour chaque règle. Les questions doivent toutefois être indépendantes : une chaîne où l'étape suivante dépend de la réponse précédente devra de toute façon être orchestrée dans le code.

Ce que signifient la vitesse et le prix

Google annonce 50 à 100 ms pour le calcul du modèle proprement dit et 150 à 250 ms de latence totale. Mais les limites de la mesure comptent : ces chiffres valent pour des contextes allant jusqu'à 16 000 tokens. L'entreprise indique un temps de traitement quasi inchangé lorsque le nombre de questions passe de un à cent. Rien ne permet pour l'instant d'extrapoler ces chiffres au maximum de 1 000 questions et à la totalité du contexte disponible.

L'entrée commune est facturée une seule fois par requête. Chaque question ajoute les tokens de ses propres instructions et critères. Les tokens de sortie ne sont pas facturés, et il n'y a pas non plus de tokens de réflexion facturés séparément. Au tarif annoncé, le traitement de 10 000 tokens d'entrée coûte 0,001 $, s'il s'agit du volume facturable total de la requête.

L'entreprise indique également que, sur son jeu de tests comparatifs, le service est près de cinq fois moins cher que Gemini 3.5 Flash-Lite via l'API Interactions. Il s'agit du résultat d'une comparaison précise. Dans votre application, il faudra tenir compte de la taille des instructions, de la composition des fichiers et du nombre d'appels répétés. Pour les images et la vidéo, il est possible de modifier le niveau de détail, ce qui influe sur le volume de tokens et le coût.

La probabilité aide à choisir une voie de repli

Le détail le plus utile en pratique concerne les probabilités des réponses. Une équipe peut par exemple traiter automatiquement les retours évidents et envoyer les cas ambigus à un opérateur. Le seuil de confiance doit être calibré sur vos propres exemples : la bonne calibration annoncée par Google ne dit pas encore avec quelle fiabilité le service évaluera les photos de vos produits.

La formulation même du problème comporte aussi une limite. Si l'action correcte ne figure pas parmi les options proposées, la sélection d'un gagnant ne résout rien. Pour les scénarios de production, il convient de prévoir une option de transfert à un humain ou de vérification supplémentaire. Les contrôles de sécurité exigent eux aussi des tests spécifiques : Google mentionne l'utilisation de l'API pour protéger les outils MCP dans Search, mais l'annonce fournie ne contient pas de métriques détaillées permettant d'évaluer ce scénario.

On peut commencer via Google AI Studio ; un niveau gratuit pour les prototypes et des guides pour Python, JavaScript et REST sont annoncés. Il est raisonnable de prendre une tâche existante de routage ou de classification et de comparer qualité, latence et coût sur des données réelles. Si les appels intermédiaires occupent une part notable du temps de fonctionnement de l'agent, cette expérience donnera une réponse claire sur l'utilité de la nouvelle API.