OpenAI lança GPT-Realtime-2.1 e versão mini para agentes de voz na API

A OpenAI adicionou à sua API dois novos modelos da linha Realtime: o GPT-Realtime-2.1 e o GPT-Realtime-2.1-mini, mais leve. Ambos são voltados a agentes de voz com baixa latência de resposta.

O que há de novo na linha Realtime

O GPT-Realtime-2.1-mini é um modelo de raciocínio compacto voltado a cenários de voz. Seu preço é igual ao do gpt-realtime-mini anterior, ou seja, migrar para a nova versão não aumenta o custo para os desenvolvedores que já usavam o modelo mini anterior. A linha Realtime da API da OpenAI foi criada desde o início para tarefas em que modelos de texto com geração intermediária de resposta não funcionam bem: assistentes de voz, interfaces conversacionais de suporte e agentes que precisam reagir às falas do usuário quase sem pausa.

O lançamento de dois modelos ao mesmo tempo, o principal GPT-Realtime-2.1 e a versão mini mais leve, dá aos desenvolvedores a escolha entre um modelo de raciocínio mais potente e uma opção mais barata para cenários em que velocidade e custo pesam mais que a profundidade do raciocínio em cada resposta.

• Dois novos modelos: GPT-Realtime-2.1 e GPT-Realtime-2.1-mini
• GPT-Realtime-2.1-mini é um modelo de raciocínio compacto para voz
• O preço da versão mini é comparável ao do gpt-realtime-mini anterior
• A latência p95 caiu pelo menos 25% graças ao cache aprimorado
• A conexão com os modelos é feita pelo protocolo WebRTC

Por que a latência p95 importa

Para agentes de voz, que precisam responder ao usuário em tempo real, a latência é um dos principais indicadores de qualidade: quanto maior, mais mecânica e artificial a conversa parece. A métrica p95 mostra a latência que 95% das requisições não ultrapassam, ou seja, reflete o comportamento do sistema não no melhor caso, mas em um caso típico e próximo do pior. Reduzir esse valor em pelo menos 25% com cache aprimorado significa que o sistema agora entrega a grande maioria das respostas de voz de forma visivelmente mais rápida do que antes, sem alterar o próprio modelo de raciocínio.

Como se conectar aos novos modelos

A OpenAI manteve para a linha Realtime a conexão pelo protocolo WebRTC, o mesmo método usado nas versões anteriores. Isso permite que desenvolvedores que já integraram agentes de voz com a Realtime API migrem para os novos modelos sem trocar o protocolo de transporte.

O que isso significa

A atualização da linha Realtime mostra que a OpenAI segue aprimorando de forma pontual a infraestrutura de agentes de voz: reduz a latência e barateia o acesso a modelos de raciocínio para voz, em vez de lançar apenas versões mais potentes, porém mais caras.