5 petits modèles ouverts avec tool calling : des agents qui se passent du cloud

Pendant longtemps, les petits modèles de langage n'ont pas pu rivaliser avec les services cloud sur une compétence clé : le pilotage d'outils via le tool calling. La donne change. Une nouvelle génération de modèles compacts et ouverts prend non seulement en charge les appels de fonctions structurés, mais reste aussi assez légère pour un déploiement local.

Qu'est-ce que le tool calling et pourquoi ça fonctionne

Le tool calling (appel d'outils) désigne la capacité d'un modèle à appeler directement des fonctions, des scripts ou des API externes, au lieu de se contenter d'écrire du code en réponse. Le modèle voit la liste des fonctions disponibles avec leur description, leurs paramètres et leurs types de données, puis décide seul quelle fonction appeler et avec quels arguments.

C'est crucial pour les agents AGI : ils peuvent gérer des bases de données, télécharger des fichiers, envoyer des e-mails, réserver des rendez-vous, le tout sans intervention humaine directe.

La sortie structurée (des réponses au format JSON) garantit que le modèle renverra son résultat dans un format correct et prévisible, qu'un programme pourra parser puis exploiter. Jusqu'à récemment, seuls les grands modèles (GPT-4, Claude 3) y parvenaient de façon fiable. Désormais, les petits modèles savent eux aussi produire du JSON structuré sans bugs.

Pourquoi les petits modèles sont désormais compétitifs

Les petits modèles (7B-13B paramètres) présentent plusieurs avantages face aux grands. Ils coûtent moins cher en développement et en inférence, protègent mieux la vie privée par défaut (ils n'envoient pas de données dans le cloud) et répondent plus vite. Ils ne nécessitent ni services cloud ni matériel d'entreprise puissant : un GPU de milieu de gamme, voire un CPU correct, suffit.

Ajoutez le tool calling à un tel modèle et vous obtenez un agent IA complet, que l'on peut faire tourner sur son propre serveur, son ordinateur portable, voire son smartphone, sans connexion Internet.

De quoi ouvrir la voie à des agents privés en entreprise, avec une garantie de confidentialité des données. Une entreprise peut exécuter un agent au sein de son réseau sécurisé sans envoyer la moindre requête vers le cloud.

S'y ajoute la souplesse des licences : tous ces modèles sont ouverts et utilisables à des fins commerciales sans demander d'autorisation.

5 modèles prêts à l'emploi

Voici cinq petits modèles qui prennent déjà en charge un tool calling complet :

• Llama 3.1 (Meta) — version de base 8B, avec une bonne documentation et des exemples de tool calling ; le plus éprouvé et le plus stable de la liste
• Mistral 7B — compact, très rapide, bon équilibre entre qualité et taille ; populaire en environnement enterprise
• PhiLM 3 (Microsoft) — optimisé spécifiquement pour la sortie structurée et les tâches d'ingénierie ; besoins en mémoire minimaux
• OpenChat 3.5 — orienté fonctions et pilotage d'outils ; de solides résultats aux benchmarks de tool calling
• Neural Hermes 2.5 (Mistral fine-tuné) — le meilleur pour gérer les chaînes d'appels complexes en plusieurs étapes et les erreurs

Les cinq se téléchargent depuis Hugging Face en quelques minutes et tournent en local sans Internet. Le temps d'inférence (réponse à une requête) va de 50 à 200 millisecondes sur un GPU moderne ou un CPU rapide.

Ce que cela signifie pour l'industrie

L'ère du monopole du cloud sur les agents IA est terminée. Même les petites startups et les grands groupes peuvent désormais bâtir des agents IA privés et complets, qui ne sont ni plus lents ni moins intelligents que leurs équivalents cloud comme l'API OpenAI ou Claude via le cloud.

Concrètement, toute l'infrastructure IA migre progressivement du cloud vers l'on-premise. Dans les prochains mois, attendez-vous à une vague d'outils et de frameworks de déploiement local d'agents (dans la lignée de LM Studio ou Ollama, mais avec une vraie prise en charge du tool calling).

Pour les développeurs, c'est un marché entièrement nouveau qui s'ouvre : des agents IA privés pour les grandes entreprises, les administrations, la santé et la fintech. Partout où le cloud est interdit pour des raisons politiques ou juridiques, les modèles locaux sont la seule voie.

*Meta est reconnue comme organisation extrémiste et interdite en Russie.