NVIDIA Open-SWE-Traces: como montar dados para ajustar agentes que escrevem código

A NVIDIA abriu o dataset Open-SWE-Traces, uma coleção de sessões multiturno reais de agentes de IA que resolvem tarefas de desenvolvimento de software. O tutorial percorre o pipeline completo, do streaming dos dados até uma amostra pronta para o ajuste fino supervisionado (SFT).

O que é o Open-SWE-Traces

O dataset contém milhares de trajetórias de agentes. Cada uma é o registro completo de uma sessão em que a IA recebe uma tarefa de engenharia, chama ferramentas passo a passo (leitura de arquivos, execução de testes, busca no código), itera sobre a solução e entrega um patch final. Isso é bem diferente dos datasets comuns de pergunta e resposta: aqui fica registrado não só o que deu certo, mas como o agente chegou lá.

Cada registro contém metadados estruturados:

• tamanho da trajetória: número de passos do agente
• lista de ferramentas usadas e frequência das chamadas
• tamanho do diff final em linhas de código
• linguagem de programação da tarefa
• sinalizador de solução bem-sucedida ou malsucedida

Os dados ficam no Hugging Face e aceitam streaming. No Google Colab é possível trabalhar com o dataset sem baixá-lo por inteiro, o que é importante com volumes de vários gigabytes.

Como o pipeline é montado

O tutorial guia o leitor por várias etapas de processamento.

A primeira é a normalização dos diálogos. As sessões multiturno do agente são convertidas para um formato único: mensagens do usuário, respostas do agente e chamadas de ferramentas são alinhadas em uma sequência. Isso é necessário porque diferentes versões de agentes registram as sessões de maneiras distintas.

A segunda é a análise dos patches. Da saída final do agente, extrai-se o código das alterações em formato unified diff. Esse patch vira a «resposta» no exemplo de treinamento.

A terceira é a construção de um DataFrame analítico. Para cada trajetória, calculam-se métricas-chave: orçamentos de tokens em diferentes etapas do trabalho do agente, distribuição por ferramentas e estatísticas de sucesso por linguagem e tipo de tarefa.

Filtragem para SFT

O passo final é a seleção de exemplos para o treinamento. Os autores aplicam uma cadeia de filtros.

Por rótulos de sucesso: só entram na amostra as trajetórias com solução bem-sucedida. Treinar com sessões fracassadas sem uma anotação específica é arriscado: o modelo vai absorver padrões errados.

Por tokens: trajetórias acima de um limite definido são descartadas. Exemplos longos demais não cabem no contexto com as configurações padrão de treinamento.

Por linguagem: se for preciso um agente especializado em Python ou JavaScript, a filtragem mantém apenas os exemplos relevantes.

Por presença de patch: sessões sem código final são inúteis para o SFT, em que o modelo precisa aprender a produzir um resultado concreto.

«A qualidade dos dados de treinamento importa mais que a quantidade,

especialmente para traces de agentes, em que sessões malsucedidas podem fixar padrões ruins no modelo».

O que isso significa

O Open-SWE-Traces da NVIDIA é um dos primeiros datasets públicos com trajetórias reais de agentes para tarefas de engenharia. O tutorial oferece um modelo funcional: dos dados brutos no Hugging Face a uma amostra SFT pronta em poucas linhas de código. Para equipes que constroem seus próprios agentes de programação, é um ponto de partida pronto, sem a necessidade de coletar dados do zero.