NaiveAI reduz o tempo mediano de resposta para 3,1 segundos no teste da Latent Space

Esperar a IA terminar mais uma versão do aplicativo é um item à parte no custo do dia de trabalho. A NaiveAI propõe reduzir essas pausas: seu modelo Naive-N0.5-Flash gera texto com um pico declarado de cerca de 2100 tokens por segundo. No teste da Latent Space, o tempo mediano de resposta com o raciocínio ativado foi de 3,1 segundos, contra 10,1 segundos do DeepSeek V4.1 Flash 1017 com nível alto de raciocínio.

Para o desenvolvedor, isso parece atraente: recebe uma versão mais rápido, executa, percebe o erro e envia a correção seguinte. Mas, no mesmo teste, o tempo médio de resposta da NaiveAI e do DeepSeek ficou quase igual. A diferença entre essas duas observações explica por que escolher um modelo apenas pela velocidade de geração é arriscado para o orçamento e os prazos.

De onde vem a velocidade

O Naive-N0.5-Flash é um modelo de pesos abertos criado com base no Xiaomi MiMo-V2.5. A equipe o treinou adicionalmente, adaptou o mecanismo de atenção e usa um motor próprio, o NaiveRT. A arquitetura base tem 310 bilhões de parâmetros, dos quais 15 bilhões ficam ativos no processamento de cada token.

A parte-chave da aceleração é a decodificação especulativa. De forma simplificada, um modelo pequeno propõe antecipadamente a continuação, e o principal verifica de uma vez vários tokens sugeridos. Quando os palpites acertam, o sistema avança mais rápido do que na geração sequencial de cada token pelo modelo grande.

Há uma ressalva importante: as velocidades declaradas foram medidas em um nó com oito GPUs Blackwell. A configuração é voltada à latência mínima de um único fluxo de geração. Desses resultados não é possível deduzir quantos usuários simultâneos esse sistema atenderia nem quanto custaria uma implantação própria.

Além disso, 2100 tokens por segundo é um pico de um único segundo. Nas medições publicadas, a velocidade foi de cerca de 984 tokens por segundo na etapa de raciocínio e 1816 na entrega da resposta. Com o raciocínio ativado, o modelo principal aceitou 43,4% das propostas do modelo auxiliar; com ele desativado, 70,6%.

O que saiu com o código

A Latent Space deu aos modelos as mesmas tarefas: um Sistema Solar interativo, uma árvore 3D procedural e uma implementação de ray tracing no navegador baseada no livro Ray Tracing in One Weekend.

No Sistema Solar, o autor da análise preferiu o resultado da NaiveAI com raciocínio: o modelo adicionou manchas solares e luzes noturnas das cidades na Terra. Na tarefa da árvore, NaiveAI e DeepSeek tiveram bons resultados, embora a animação do vento tenha mantido pequenos defeitos. Já a NaiveAI sem raciocínio não criou um aplicativo utilizável para essa tarefa.

O ray tracer funcionou nos três modelos com raciocínio ativado. Aqui venceu o DeepSeek: sua implementação executava o código com mais eficiência. O aplicativo da NaiveAI funcionou corretamente, mas o JavaScript ficou mais lento.

É uma diferença útil para a equipe que monta um protótipo. A geração rápida permite abrir o resultado no navegador mais cedo, mas, por si só, nada diz sobre o desempenho do aplicativo obtido. Três tarefas de demonstração também não substituem a verificação de correções em um repositório existente, os testes e a manutenção do código.

Onde o ganho desaparece

A velocidade das respostas foi testada com 30 perguntas por configuração: dez simples, dez médias e dez difíceis. A correção das respostas não foi avaliada neste experimento. Por isso, o resultado descreve a latência, mas não prova superioridade na resolução de tarefas.

Em perguntas difíceis, a NaiveAI com raciocínio gerou em média cerca de 108 500 tokens, aproximadamente 11 vezes mais que o DeepSeek. O tempo médio de resposta foi de 89,8 segundos, contra 79,7 segundos do DeepSeek. Em toda a amostra, as médias praticamente coincidiram: 45,3 e 45 segundos, respectivamente.

O preço-alvo declarado da NaiveAI é de US$ 0,40 por milhão de tokens de saída. Mas token barato não significa tarefa barata: um raciocínio longo aumenta o consumo total. Além disso, os indicadores de velocidade foram coletados de maneiras diferentes, então não é possível extrair deles um fator exato de aceleração.

O passo prático é rodar seu próprio conjunto de tarefas e medir o tempo até um resultado funcional verificado, o consumo total de tokens e o número de novas tentativas. Esta análise dá motivo para testar a NaiveAI em iterações rápidas. A decisão de migrar exigirá validação no seu código.