Transcrição de fala com AWS SageMaker e vLLM

Agentes de voz, sistemas de legendagem automática e análise de contact centers precisam de redes neurais que transcrevam a fala instantaneamente, em tempo real.

Qual é a diferença entre a transcrição em streaming e a convencional?

O processamento em streaming usa uma única conexão persistente e processa o fluxo de áudio conforme ele chega, sem atrasos. O método tradicional segue o esquema request-response: o usuário envia o áudio completo, o sistema o recebe por inteiro e só então começa a transcrever.

O que diferencia a transcrição em streaming da transcrição comum?

O método comum funciona como request-response: o usuário envia o áudio completo, o sistema o recebe inteiro e depois o transcreve. A transcrição em streaming processa o fluxo de áudio de forma síncrona enquanto o recebe, por meio de uma única conexão persistente, e o resultado chega imediatamente, sem atrasos.

Como a rede neural processa o fluxo de áudio em tempo real?

A AWS apresentou uma arquitetura em que o fluxo de áudio é processado de forma síncrona conforme é recebido, por meio de uma única conexão persistente, sem atrasos e sem esperar o fim da gravação.