Adventists AI apresenta Sophon, modelo de voz com resposta anunciada em 0,31 segundo

Você liga para um assistente de voz, começa a corrigir um endereço e ele continua lendo a resposta anterior. Para o usuário, são alguns segundos de irritação. Para a equipe de produto, é um motivo para verificar se o sistema consegue escutar enquanto fala. A Adventists AI apresentou o modelo aberto Sophon-Realtime-v1 justamente com essa capacidade: é possível interromper o assistente e continuar a conversa. Para a versão rápida, Flash, os criadores anunciam um tempo até o primeiro áudio de 0,31 segundo.

A proposta tem interesse prático para equipes de suporte, desenvolvedores de interfaces de voz e fundadores de serviços com bots telefônicos. Mas ainda é cedo para escolher um modelo com base em um único número de latência: primeiro, é preciso entender o que acontece diante de pausas, esclarecimentos e erros.

Como o assistente decide quando falar

O Sophon oferece suporte a full-duplex: escuta e fala ao mesmo tempo. A família tem como base um modelo de 32 bilhões de parâmetros. Segundo os desenvolvedores, ele distingue entre uma fala concluída, a continuação da fala, uma reação breve do interlocutor e uma pausa para pensar. Um rascunho da resposta é preparado antecipadamente; se a pessoa continua falando, o sistema o descarta.

Imagine um pedido de entrega. O cliente diz: "Entreguem amanhã... hum, melhor depois de amanhã". Ao testar um assistente assim, é importante verificar se ele espera a correção e confirma o dia certo. Se o bot já começou a responder e o cliente acrescenta "depois das seis", a conversa também deve incorporar esse esclarecimento. Esse é um exemplo de cenário de teste, não um resultado confirmado do funcionamento do Sophon.

Os criadores também afirmam que o DuplexJev permite reconhecer entonação, risadas, suspiros e sarcasmo. Para uma equipe de produto, isso pede testes específicos com frases ambíguas. "Ah, que ótimo" pode expressar satisfação ou irritação. No entanto, a capacidade de identificar o tom, por si só, ainda não prova que o assistente escolherá corretamente a próxima ação.

Três versões com diferentes concessões

A variante Tag prioriza a expressividade: o modelo insere marcações na resposta, e um módulo de voz separado reproduz risadas, suspiros e ênfases. A Flash usa síntese de voz mais rápida. A terceira versão, E2E, foi publicada como uma versão preliminar, voltada a experimentos com geração de fala dentro da arquitetura comum.

O material original informa aproximadamente 0,6 segundo até o primeiro áudio e 16 usuários simultâneos para a Tag, contra 0,31 segundo e 40 usuários para a Flash. Uma ressalva importante do repositório do projeto: os criadores mediram a latência e a carga em uma H100 com 80 GB de memória. Esses números não podem ser automaticamente extrapolados para qualquer GPU com essa quantidade de memória.

A escolha entre as versões deve depender da tarefa. Para um personagem ou uma ferramenta de prática de conversação, a expressividade pode ser útil. Para uma ligação curta para consultar o status de um pedido, é mais importante testar a velocidade, a inteligibilidade e a execução correta das ações. A risada do assistente não compensa um erro no endereço.

O que testar antes de integrar ao produto

Vale começar com um pequeno conjunto de conversas próprias: uma pessoa interrompe o bot, demora para pensar, muda de ideia ou fala com ruído de fundo. Também são necessários testes específicos com os idiomas e sotaques do seu público. Os resultados apresentados não permitem tirar conclusões sobre a qualidade da fala em russo.

Meça o tempo entre o fim da fala do usuário e o primeiro áudio, a rapidez com que o bot para ao ser interrompido e a proporção de conversas em que ele retém corretamente um esclarecimento. Faça esses testes sob a carga esperada. Emitir o primeiro áudio rapidamente ajuda pouco se a resposta depois trava ou se o sistema perde o contexto após uma intervenção do usuário.

Cenários que envolvem ações exigem outro conjunto de verificações: se o assistente chama as ferramentas corretamente e confirma o resultado. Os 48% de Pass@1 informados no material para o teste de chamadas de ferramentas não justificam confiar operações ao modelo sem verificação. Faz sentido começar testando a consulta de status e a preparação de ações, para depois avaliar cenários mais complexos.

O Sophon merece atenção como candidato para um protótipo de serviço de voz. A decisão de adotá-lo deve se basear nas suas gravações de conversas, no custo operacional e no número de tarefas concluídas com sucesso. As comparações publicadas pelos criadores ajudam a montar um programa de testes; será preciso verificar por conta própria se o sistema está pronto para atender clientes.