StartLux-Decision réduit de 65 % la longueur moyenne de la chaîne de raisonnement

La plupart des agents opérationnels dépensent leurs ressources de calcul de manière assez absurde : ils réfléchissent aussi longtemps à un choix stratégique complexe qu’à la question de savoir s’ils peuvent appeler l’outil suivant. StartLux-Decision propose une approche plus pragmatique. Le modèle commence par estimer les probabilités des options admissibles. Si une réponse est suffisamment convaincante, il la fournit en un seul passage. Si le niveau de confiance est insuffisant, il active un court raisonnement, puis réévalue les options.

Prenons un exemple simple : un agent doit décider s’il accepte le résultat d’une tâche terminée. Il reçoit le journal des actions, les exigences et deux options : « accepter » ou « renvoyer pour révision ». Si tous les contrôles sont au vert et que les critères sont remplis, un long monologue interne est inutile. Lorsqu’un test a échoué, mais que les règles autorisent des exceptions, le modèle peut dépenser des tokens supplémentaires pour vérifier les conditions avant de choisir sa réponse. Le développeur contrôle ce comportement au moyen d’un seuil de confiance.

Une interface unique pour les décisions rapides et complexes

La famille comprend des modèles allant de 0,8 à 27 milliards de paramètres. Instant répond toujours en un seul passage. AutoThink compare la probabilité maximale à un seuil défini : si la confiance est suffisante, il répond immédiatement ; sinon, il génère un raisonnement, puis recalcule les probabilités des différentes options.

Les entrées comprennent l’état de la tâche, le type de question et les réponses admissibles. La sortie fournit non seulement l’option sélectionnée, mais aussi une distribution de probabilités. Le système prend en charge la sélection dans une liste, les réponses « oui ou non » et l’évaluation sur une échelle. Ce contrat convient au routage des requêtes, à la validation des résultats, à l’autorisation d’accès aux outils et à d’autres décisions étroitement délimitées, pour lesquelles le texte libre constitue plutôt un obstacle.

Selon les auteurs, Instant devance les modèles ouverts comparables de 7,4 à 16,9 points sur la partie publique de Decision Index 0.3. Le modèle AutoThink à 27 milliards de paramètres a obtenu 73,37 points. Sur DecisionPivot, où les paires de tâches diffèrent par un seul détail décisif, AutoThink améliore les résultats d’Instant de 11,5 à 18,4 points. Il s’agit bien des scores de tests particuliers, et non d’une mesure universelle de la précision du système.

Comment le modèle apprend à s’arrêter au bon moment

Un simple interrupteur « réfléchir » s’est révélé insuffisant. Lors des premières expériences, le modèle à 4 milliards de paramètres ne raisonnait pratiquement pas dans environ 40 % des cas. À l’inverse, la version à 9 milliards continuait, dans environ 70 % des cas, à générer du texte jusqu’à atteindre la limite de longueur. Autrement dit, un modèle prenait sa décision prématurément, tandis que l’autre épuisait son budget sans remarquer que le travail utile était déjà terminé.

Pour AutoThink, les auteurs ont conçu RLCD², une méthode d’apprentissage par renforcement qui évalue dans quelle mesure le raisonnement améliore la prédiction probabiliste. Si, après l’analyse, l’option correcte obtient une probabilité de meilleure qualité, le modèle reçoit une récompense. Une pénalité légère est appliquée aux chaînes excessivement longues. En conséquence, la longueur moyenne des raisonnements a été réduite de 65 %, tandis que la proportion de chaînes terminées avant d’atteindre la limite a augmenté de 48 points de pourcentage, avec une faible variation de la qualité des décisions.

Ce qu’il faut intégrer au produit

L’idée principale est ici plus utile que le modèle lui-même : le budget de calcul doit être réparti en fonction de l’incertitude de la requête. Un agent peut conserver une voie rapide pour les décisions évidentes et n’activer l’analyse coûteuse qu’à proximité de la frontière de confiance. Cette approche est particulièrement pertinente pour le routage, la vérification des politiques, la sélection d’outils et l’acceptation automatisée des tâches.

La probabilité fournie par le modèle ne doit toutefois pas être considérée comme une garantie prête à l’emploi. Le seuil dépend des données, du coût de l’erreur et des exigences de latence. Dans les tests publiés, abaisser le seuil d’AutoThink de 90 % à 60 % réduisait sensiblement la proportion de requêtes accompagnées d’un raisonnement, mais dégradait les résultats sur les tâches sensibles aux règles et aux calculs. La quantification peut également réduire la qualité : pour l’une des configurations Q4_K_M, la perte atteignait 4,3 points.

La démarche pratique est simple : collecter un journal de décisions réelles, classer les erreurs selon leur coût, mesurer la calibration des probabilités et définir un seuil distinct pour chaque scénario. Pour les actions critiques, une faible confiance doit conduire non seulement à un raisonnement supplémentaire, mais aussi à une vérification par du code, un second classificateur ou un humain. StartLux-Decision fournit une bonne base architecturale, mais ce n’est pas le nom du modèle qui en fait un produit sûr : c’est un circuit de décision éprouvé.