Simon Willison Publie llm 0.31.1 avec Correction de Bug d'Appel d'Outil

Le développeur Simon Willison a publié la version 0.31.1 de son outil open-source llm — un utilitaire de ligne de commande et une bibliothèque Python pour travailler avec de grands modèles de langage via le terminal.

Ce qui a exactement été corrigé

Le patch élimine un bug dans les endpoints d'OpenAI Chat Completion: lorsqu'un modèle invoquait un appel d'outil (tool call) avec des arguments vides, certains fournisseurs répondaient par une erreur de format JSON au lieu d'un résultat correct. L'erreur a été enregistrée dans l'issue #1521 du référentiel du projet sur GitHub.

Comment le bug a été trouvé

Willison a découvert le problème en testant un autre de ses projets — le plugin llm-meta-ai, qui ajoute la prise en charge des modèles Meta à llm. L'outil llm est conçu comme un système de plugins: la CLI de base peut être étendue avec la prise en charge de nouveaux fournisseurs et modèles sans modifier le noyau, donc les bugs dans la logique de base d'invocation d'outils affectent tous les plugins connectés à la fois.

L'auteur du projet est également connu comme créateur de Datasette — un outil ouvert pour publier et explorer des données, donc son travail dans les outils LLM a longtemps intéressé la communauté des développeurs.

Ce que cela signifie

Même les petits outils CLI pour travailler avec les LLM s'appuient de plus en plus sur la fiabilité du mécanisme d'appel d'outils — invoquer des fonctions externes par le modèle. Les erreurs de format JSON dans ces chaînes peuvent casser des pipelines automatisés entiers, donc ces correctifs ciblés sont importants pour les développeurs qui construisent des agents au-dessus des APIs tierces.