Microsoft apresenta o Decision-1, baseado no Qwen3.5-9B: 83,5% de acurácia com latência de 85 ms

A Microsoft apresentou o Decision-1, um modelo compacto para classificação e roteamento rápido de solicitações. Ele é baseado no Qwen3.5-9B. Segundo dados da própria empresa, o modelo atinge 83,5% de acurácia em 36 benchmarks, com latência de 85 ms. Ainda não há verificações independentes.

Para que servem os modelos de decisão

Um modelo de decisão não escreve textos longos nem raciocina em voz alta. Sua tarefa é tomar uma decisão rápida: em qual categoria classificar um chamado, para qual ferramenta encaminhar a tarefa, a qual modelo entregar a solicitação, se é preciso passá-la por um filtro. Em sistemas de agentes, essas bifurcações aparecem a cada etapa. Se cada uma delas exigir uma chamada a uma LLM de ponta, a conta e a latência crescem na proporção do número de etapas.

Por isso, modelos com alguns bilhões de parâmetros se encaixam bem em roteadores e despachantes. Nove bilhões é justamente essa escala: o modelo cabe em uma única GPU e responde em frações de segundo. A Microsoft chega a um segmento em que já há outras soluções concorrentes e traz para ele uma otimização própria para a tarefa.

A escolha da base também diz muito. A empresa fez o ajuste fino do Qwen3.5-9B, um modelo aberto da família da Alibaba, em vez de adotar uma arquitetura própria. Para uma tarefa aplicada e restrita, é um caminho racional: o valor é criado na camada de dados, de ajuste fino e de otimização, e não no pré-treinamento do zero.

O que se sabe sobre os números

• Base: Qwen3.5-9B.
• Finalidade: classificação e roteamento rápidos.
• Acurácia: 83,5% em 36 benchmarks.
• Latência: 85 ms.
• Fonte dos dados: testes da própria Microsoft.

Os números pedem cautela na leitura. Os 85 ms cabem no orçamento de um cenário interativo, em que a decisão é tomada antes da resposta principal, mas a latência depende bastante do hardware, do tamanho da entrada e do tamanho do lote (batch). As condições da medição não foram reveladas no comunicado. Também não foi informado quais são os 36 benchmarks do conjunto nem com quais modelos o Decision-1 foi comparado.

Com a acurácia, a história é parecida. Os 83,5% significam que, em média, cerca de uma em cada seis decisões está errada. Para separar chamados por tema, isso pode ser aceitável. Já no roteamento, em que um erro envia a solicitação ao lugar errado ou deixa passar conteúdo perigoso, é preciso ter dados sobre as classes de erro específicas, e não um único número médio.

O que verificar antes de adotar

Se você está montando um sistema de agentes ou um roteador de solicitações, vale considerar o Decision-1 como candidato a um piloto, e não como uma solução pronta. A ordem de verificação é esta:

• Rodar o modelo no seu próprio tráfego. O resultado médio em 36 benchmarks diz quase nada sobre as suas categorias e o idioma das suas solicitações.
• Medir a latência no seu próprio hardware, olhando para p95 e p99, e não para a média.
• Calcular o custo do erro para cada tipo de decisão e definir onde a escolha automática é aceitável e onde é necessária a checagem humana.
• Adicionar um caminho de contingência: quando a confiança do modelo for baixa, enviar a solicitação a uma LLM mais forte.
• Comparar com alternativas de referência: um modelo não especializado do mesmo tamanho e um classificador clássico. Abordagens simples muitas vezes entregam qualidade comparável por menos dinheiro.
• Esclarecer a licença, as condições de acesso e a forma de implantação. Esses detalhes não constam no comunicado original.

O simples surgimento do Decision-1 mostra que os grandes players passaram a levar a sério a camada de "despacho" dos sistemas de IA. Enquanto o modelo não tiver medições independentes, ele é uma aposta em um nicho, e não uma vantagem comprovada.