LangSmith présente LLM Gateway : contrôle des coûts et gestion des données PII pour les agents AI

LangSmith a présenté un LLM Gateway intégré, un outil de gestion des agents AI à toutes les étapes du développement et du déploiement. Avec Gateway, les développeurs peuvent fixer des plafonds budgétaires pour les dépenses liées aux requêtes LLM, supprimer automatiquement les informations personnellement identifiables (PII) des prompts et consulter les journaux complets de tous les appels en temps réel. La fonctionnalité est intégrée directement dans LangSmith, sans plugins ni configuration supplémentaires.