Transcription vocale avec AWS SageMaker et vLLM

Les agents vocaux, les systèmes de sous-titrage automatique et l'analyse des centres de contact ont besoin de réseaux de neurones capables de transcrire la parole instantanément, en temps réel.

En quoi la transcription en streaming diffère-t-elle de la

transcription classique ? Le traitement en streaming utilise une seule connexion persistante et traite le flux audio au fur et à mesure de sa réception, sans délai. La méthode traditionnelle suit le schéma request-response : l'utilisateur envoie l'audio complet, le système le reçoit en entier, puis commence à le transcrire.

Qu'est-ce qui distingue la transcription en streaming de la

transcription ordinaire ? La méthode ordinaire fonctionne en request-response : l'utilisateur envoie l'audio complet, le système le reçoit en entier, puis le transcrit. La transcription en streaming traite le flux audio de façon synchrone pendant sa réception, via une seule connexion persistante, et le résultat arrive aussitôt, sans délai.

Comment un réseau de neurones traite-t-il un flux audio en temps réel ?

AWS a présenté une architecture dans laquelle le flux audio est traité de façon synchrone au fur et à mesure de sa réception, via une seule connexion persistante, sans délai et sans attendre la fin de l'enregistrement.