Loka a conçu un agent vocal sur Amazon Nova 2 Sonic avec une latence inférieure à une seconde

Loka a publié une analyse détaillée de l'architecture qu'elle a utilisée pour créer un agent vocal basé sur Amazon Nova 2 Sonic, le modèle vocal de nouvelle génération d'AWS. L'objectif était précis : concevoir un bot que le client n'abandonne pas après quelques secondes d'attente.

Le problème à résoudre

La voix robotique des bots téléphoniques n'est pas une simple gêne esthétique. Pour une entreprise, elle se traduit par des pertes directes : le client raccroche, rappelle pour obtenir un opérateur humain ou part chez un concurrent. La réputation de la marque se dégrade et les coûts de support augmentent.

Les systèmes vocaux classiques reposent sur une longue chaîne : reconnaissance vocale (ASR) → conversion en texte → modèle de langage → génération de la réponse → synthèse vocale (TTS). Chaque étape ajoute de la latence. Résultat : entre la question du client et la réponse du bot, il s'écoule de 2 à 5 secondes. Pendant ce laps de temps, l'interlocuteur a le temps de conclure que le système ne fonctionne pas : il raccroche ou exige un opérateur humain.

Loka s'est fixé pour objectif de briser cette chaîne et de créer un agent capable de réagir dans les limites d'une pause naturelle de conversation, comme un interlocuteur humain. La solution retenue : Amazon Nova 2 Sonic.

Ce que Nova 2 Sonic fait différemment

Nova 2 Sonic est un modèle multimodal speech-to-speech d'AWS qui traite directement l'audio, sans passer par des étapes distinctes de transcription ASR et de synthèse TTS. Il reçoit un flux audio en entrée et génère un flux audio en sortie, sans conversion intermédiaire en texte.

Cela change radicalement le profil de latence :

• La réponse démarre dans les 300–500 ms suivant la pause de l'utilisateur
• Le modèle comprend les interruptions naturelles de la parole et y réagit correctement
• Le système perçoit l'intonation et le contexte émotionnel, et adapte le ton de sa réponse
• L'impression que « le système est en train de traiter » disparaît totalement du dialogue
• L'intégration avec la logique métier via le function calling n'interrompt pas le fil de la conversation

Nova 2 Sonic est disponible via Amazon Bedrock, ce qui permet aux entreprises déjà sur AWS de l'intégrer sans changer de fournisseur ni reconstruire entièrement leur infrastructure.

L'architecture en production

Loka a mis en place un streaming audio en temps réel avec une mise en tampon minimale. Le système n'attend pas la fin de l'énoncé de l'utilisateur : il lance le traitement immédiatement, ce qui permet à Nova 2 Sonic de réagir pile au moment de la pause naturelle, et non après un long silence.

« La voix robotique est la principale raison pour laquelle les clients raccrochent.

Ce n'est pas un problème technologique, c'est un problème de confiance », souligne l'équipe de Loka.

Pour accéder aux données métier en temps réel (statut de commande, historique client, niveaux de stock), l'agent s'appuie sur le real-time function calling. Côté client, cela se traduit par une réponse instantanée, et non par une pause perceptible du type « j'attends le résultat ».

En production, le système résiste aux interruptions, aux changements de sujet et aux pauses atypiques, des scénarios sur lesquels les systèmes ASR classiques échouent le plus souvent.

Ce que cela signifie

Les modèles speech-to-speech lèvent le principal obstacle au déploiement massif des bots vocaux : une latence perceptible qui brise l'illusion d'une conversation humaine. Si la latence ne se ressent pas et que la voix sonne naturelle, la frontière entre agent et opérateur s'efface.

Pour les entreprises, c'est une voie directe vers l'automatisation des centres d'appels sans dégrader le NPS. Après Nova 2 Sonic, des modèles comparables d'autres fournisseurs arriveront sur le marché : la concurrence sur le segment de la voice AI ne fait que commencer.