Lyft a réduit le développement d'agents IA de mois à semaines avec LangGraph et LangSmith

Lyft a créé une plateforme d'auto-service pour développer des agents IA qui aident au support client. En utilisant les outils LangGraph et LangSmith, l'entreprise a réduit le temps de développement des agents de plusieurs mois à quelques semaines, rendant l'innovation en IA accessible à tous les ingénieurs, et non seulement à un groupe restreint de spécialistes en machine learning.

Le

Problème : Le Développement Était un Goulot d'Étranglement Auparavant, créer un seul agent IA pour Lyft nécessitait plusieurs mois de travail d'une équipe spécialisée. Il fallait une connaissance approfondie du machine learning, l'intégration avec les systèmes de Lyft, la mise en place du monitoring et l'amélioration continue. Cela rendait le processus coûteux et lent — une nouvelle idée, de l'hypothèse à la production, prenait un ou deux trimestres.

L'entreprise gère des millions de trajets par jour, et le support client représente un volume énorme de travail. Chaque réponse incorrecte du chatbot peut conduire à un client insatisfait ou à une charge supplémentaire pour l'équipe de support. L'équipe a réalisé que si elle pouvait autonomiser les développeurs pour créer et tester indépendamment les agents, les gains en vitesse et en qualité seraient significatifs.

Mais pour cela, ils avaient besoin des bons outils pour rendre le développement intuitif.

Solution :

LangGraph pour la Logique, LangSmith pour la Visibilité Lyft a choisi LangGraph pour orchestrer la logique des agents et LangSmith pour le monitoring, le débogage et les tests. LangGraph permet de décrire le flux de travail d'un agent sous forme de graphe : les nœuds sont des étapes individuelles (rechercher des informations dans une base de données, générer une réponse, vérifier la pertinence, escalader vers un spécialiste), les arêtes sont des transitions conditionnelles entre eux. C'est plus intuitif pour un ingénieur qu'un ensemble de callbacks et de code asynchrone.

LangSmith ajoute la visibilité du processus : journalisation de toutes les étapes, métriques de qualité, tests A/B des prompts, suivi rapide des erreurs. L'équipe peut immédiatement voir où l'agent s'est embrouillé, quel prompt n'a pas fonctionné, et le corriger à la volée sans redéveloppement. C'est critique car lorsqu'on travaille avec des LLM, les erreurs se cachent souvent dans les détails de la formulation.

Principales capacités de la plateforme : Itération rapide sur les prompts et la logique sans rechargement du service L'approche par graphe simplifie l'ajout de nouvelles étapes au flux de travail Le monitoring intégré économise des semaines de débogage et d'analyse des logs Modèles prêts à l'emploi pour les tâches courantes (recherche, ranking, routage) ## Résultat Pratique : Des Semaines au Lieu de Mois Après la mise en œuvre de la plateforme, le temps écoulé entre une idée et un agent en production est tombé de 8–12 semaines à 1–2 semaines. Maintenant, un chef de produit peut proposer une idée, un ingénieur assemble un flux de travail en LangGraph en un ou deux jours, le teste sur des données réelles via LangSmith, regarde les métriques, et l'agent est prêt à être lancé. Le travail est passé du ML profond à la conception de logique, ce qui est plus accessible pour la plupart de l'équipe.

Lyft a déjà lancé plusieurs agents sur la plateforme : des simples (réponses automatiques aux FAQ) aux complexes (systèmes de triage qui décident vers quel spécialiste escalader, évaluent la priorité, trouvent la documentation pertinente). Chacun fonctionne avec une latence de réponse plus faible et une meilleure précision que les anciens systèmes basés sur des règles.

Ce

Que Cela Signifie Les plateformes IA deviennent des outils non seulement pour les ingénieurs ML, mais pour les équipes d'ingénierie dans leur ensemble. Lorsque les outils sont simples à apprendre et que les résultats sont visibles immédiatement, la vitesse d'adoption de l'IA dans les entreprises augmente plusieurs fois. Pour des entreprises de la taille de Lyft, avec des millions de requêtes par jour, cela signifie des expérimentations rapides avec de nouvelles solutions IA, la mesure de l'impact réel et la montée en charge de celles qui fonctionnent.