LangSmith Adicionou Suporte End-to-End do OpenTelemetry para LangChain e LangGraph

LangSmith — uma plataforma para depuração e monitoramento de aplicações LLM da equipe LangChain — anunciou suporte completo a OpenTelemetry. Os desenvolvedores agora podem conectar o rastreamento de componentes de IA a uma pilha de observabilidade unificada junto com o resto dos serviços de aplicação, sem manter duas ferramentas de monitoramento isoladas em paralelo.

Por que os serviços de IA precisam de OTel

OpenTelemetry (OTel) é um padrão aberto CNCF para coletar rastreamentos distribuídos, métricas e logs. É suportado por praticamente todas as principais plataformas de monitoramento: Datadog, Grafana, Honeycomb, Jaeger, AWS X-Ray, New Relic. Em sistemas de produção, OTel tornou-se um requisito de facto: permite rastrear o caminho de uma solicitação do usuário através de dezenas de microsserviços, bancos de dados e APIs externas em um único contexto temporal.

Até agora, os componentes de IA viviam em uma bolha separada. LangSmith armazenava rastreamentos de chamadas LLM em um formato proprietário, enquanto o resto do time de infraestrutura usava um backend de OTel. Durante cada incidente de produção, os engenheiros tiveram que alternar entre dois sistemas, combinando manualmente timestamps e contexto de chamadas. Isso desacelerou o diagnóstico e criou pontos cegos na observabilidade.

O que mudou em LangSmith

O novo suporte OTel funciona nos dois sentidos e cobre toda a pilha do ecossistema LangChain:

• Ingestão de rastreamentos: LangSmith aceita dados através do coletor OTel padrão sem SDKs personalizados ou adaptadores especiais
• Exportação de dados: chamadas LLM e rastreamentos de agentes podem ser enviados para qualquer backend compatível com OTel — Datadog, Grafana Tempo, Honeycomb, Jaeger
• Contexto de ponta a ponta: rastreamentos distribuídos são vinculados através de limites de serviço — desde a solicitação HTTP de entrada do usuário até a resposta do modelo de linguagem e de volta
• Suporte a LangGraph: além de cadeias lineares de LangChain, o rastreamento OTel cobre agentes gráficos complexos com ciclos, passos paralelos e ramificações condicionais

Mudança chave para engenheiros: não precisa mais de um SDK LangChain separado para instrumentar a parte de IA. O agente OTel padrão, já configurado para o backend, começa automaticamente a coletar dados de LangSmith.

O que as equipes de produção ganham

Imagine um incidente típico: um usuário reclama que a resposta de um chatbot leva 10-15 segundos. Anteriormente, um engenheiro abriria LangSmith, estudaria o rastreamento de chamada do modelo de linguagem, depois mudaria para Datadog para verificar atrasos de rede, filas e banco de dados — e costuraria manualmente a imagem. Agora todo o caminho da solicitação — desde o frontend através do gateway de API e orquestrador até a chamada LLM e processamento final de resposta — é visível em um único rastreamento contínuo com precisão de milissegundos.

Para equipes movendo protótipos para carga de produção, isso significa que práticas padrão de OTel — alertas de latência p95/p99, métricas de SLO, orçamentos de erro — agora são aplicáveis a componentes de IA sem configuração adicional.

"Observabilidade de ponta a ponta não é apenas conveniência, é um

requisito obrigatório para qualquer sistema de IA de produção que sirve usuários reais sob carga real."

Para clientes corporativos, é particularmente importante que departamentos de TI corporativos já tenham investido em infraestrutura OTel e tenham requisitos rigorosos de padronização. Uma nova ferramenta que requer seu próprio dashboard isolado é sempre uma barreira adicional para concordância de adoção. LangSmith elimina essa barreira.

O que isso significa

LangSmith está se movendo em direção à padronização da observabilidade de IA. Em vez de uma abordagem proprietária de "tudo apenas em nossa UI" — um padrão aberto que se encaixa organicamente nas ferramentas existentes da equipe. Isso torna o monitoramento de sistemas de IA parte do processo de engenharia normal, não uma disciplina separada com seu próprio silo de dados. Para o mercado em geral — outro passo em direção à infraestrutura de IA sendo percebida como uma parte padrão da pilha de produção, em vez de uma adição exótica.