LangSmith a Ajouté un Support End-to-End d'OpenTelemetry pour LangChain et LangGraph

LangSmith — une plateforme de débogage et de surveillance des applications LLM de l'équipe LangChain — a annoncé le support complet d'OpenTelemetry. Les développeurs peuvent désormais connecter le traçage des composants d'IA à une pile d'observabilité unifiée avec le reste des services de l'application, sans maintenir deux outils de surveillance isolés en parallèle.

Pourquoi les services d'IA ont besoin d'OTel

OpenTelemetry (OTel) est une norme ouverte CNCF pour collecter les traces distribuées, les métriques et les journaux. Elle est prise en charge par pratiquement toutes les principales plateformes de surveillance : Datadog, Grafana, Honeycomb, Jaeger, AWS X-Ray, New Relic. Dans les systèmes de production, OTel est devenue une exigence de facto : elle permet de tracer le chemin d'une requête utilisateur à travers des dizaines de microservices, de bases de données et d'API externes dans un contexte temporel unique.

Jusqu'à présent, les composants d'IA vivaient dans une bulle séparée. LangSmith stockait les traces d'appels LLM dans un format propriétaire, tandis que le reste de l'équipe d'infrastructure utilisait un backend OTel. Lors de chaque incident de production, les ingénieurs devaient basculer entre deux systèmes, en faisant correspondre manuellement les horodatages et le contexte des appels. Cela a ralenti le diagnostic et créé des points aveugles en matière d'observabilité.

Ce qui a changé dans LangSmith

Le nouveau support OTel fonctionne dans les deux sens et couvre toute la pile de l'écosystème LangChain :

• Ingestion de traces : LangSmith accepte les données via le collecteur OTel standard sans SDK personnalisés ni adaptateurs spéciaux
• Exportation de données : les appels LLM et les traces d'agents peuvent être envoyés à n'importe quel backend compatible OTel — Datadog, Grafana Tempo, Honeycomb, Jaeger
• Contexte de bout en bout : les traces distribuées sont liées aux limites des services — de la requête HTTP entrante de l'utilisateur à la réponse du modèle de langage et inversement
• Support de LangGraph : en plus des chaînes linéaires LangChain, le traçage OTel couvre les agents graphiques complexes avec des cycles, des étapes parallèles et des branches conditionnelles

Changement clé pour les ingénieurs : plus besoin d'un SDK LangChain séparé pour instrumenter la partie IA. L'agent OTel standard, déjà configuré pour le backend, commence automatiquement à collecter les données de LangSmith.

Ce que les équipes de production gagnent

Imaginez un incident typique : un utilisateur se plaint qu'une réponse de chatbot prend 10-15 secondes. Auparavant, un ingénieur ouvrait LangSmith, étudiait la trace d'appel du modèle de langage, puis basculait vers Datadog pour vérifier les délais réseau, les files d'attente et la base de données — et cousait manuellement l'image. Maintenant, tout le chemin de la requête — du frontend via la passerelle API et l'orchestrateur jusqu'à l'appel LLM et le traitement final de la réponse — est visible dans une seule trace continue avec une précision à la milliseconde.

Pour les équipes qui déplacent les prototypes vers une charge de production, cela signifie que les pratiques OTel standard — alerte sur latence p95/p99, métriques de SLO, budgets d'erreurs — sont désormais applicables aux composants d'IA sans configuration supplémentaire.

"L'observabilité de bout en bout n'est pas seulement une commodité,

c'est une exigence obligatoire pour tout système d'IA de production servant des utilisateurs réels sous une charge réelle."

Pour les clients d'entreprise, il est particulièrement important que les services informatiques d'entreprise aient déjà investi dans l'infrastructure OTel et aient des exigences de normalisation strictes. Un nouvel outil qui nécessite son propre tableau de bord isolé est toujours une barrière supplémentaire à l'accord d'adoption. LangSmith élimine cette barrière.

Ce que cela signifie

LangSmith se dirige vers la normalisation de l'observabilité de l'IA. Au lieu d'une approche propriétaire "tout seulement dans notre UI" — une norme ouverte qui s'intègre organiquement dans les outils existants de l'équipe. Cela rend la surveillance des systèmes d'IA une partie du processus d'ingénierie normal, et non une discipline séparée avec son propre silo de données. Pour le marché dans l'ensemble — une autre étape vers la perception de l'infrastructure d'IA comme une partie standard de la pile de production, plutôt que comme un ajout exotique.