OpenAI lance GPT-Realtime-2.1 et une version mini pour les agents vocaux dans son API

OpenAI a ajouté à son API deux nouveaux modèles de la gamme Realtime : GPT-Realtime-2.1 et la version allégée GPT-Realtime-2.1-mini. Tous deux sont conçus pour des agents vocaux à faible latence de réponse.

Les nouveautés de la gamme Realtime

GPT-Realtime-2.1-mini est un modèle de raisonnement compact orienté vers les usages vocaux. Son prix est identique à celui de l'ancien gpt-realtime-mini : passer à la nouvelle version n'augmente donc pas le coût pour les développeurs qui utilisaient déjà le précédent modèle mini. La gamme Realtime de l'API d'OpenAI a été conçue dès l'origine pour les tâches où les modèles de texte avec génération intermédiaire de la réponse ne conviennent pas : assistants vocaux, interfaces conversationnelles de support et agents devant réagir aux propos de l'utilisateur presque sans pause.

La sortie simultanée de deux modèles, le GPT-Realtime-2.1 principal et la version mini allégée, laisse aux développeurs le choix entre un modèle de raisonnement plus puissant et une option moins chère pour les cas où la vitesse et le coût comptent plus que la profondeur du raisonnement dans chaque réponse.

• Deux nouveaux modèles : GPT-Realtime-2.1 et GPT-Realtime-2.1-mini
• GPT-Realtime-2.1-mini est un modèle de raisonnement compact pour la voix
• Le prix de la version mini est comparable à celui de l'ancien gpt-realtime-mini
• La latence p95 baisse d'au moins 25 % grâce à un cache amélioré
• La connexion aux modèles se fait via le protocole WebRTC

Pourquoi la latence p95 compte

Pour les agents vocaux, qui doivent répondre à l'utilisateur en temps réel, la latence est l'un des indicateurs clés de qualité : plus elle est élevée, plus la conversation paraît mécanique et peu naturelle. La métrique p95 indique la latence que 95 % des requêtes ne dépassent pas ; elle reflète donc le comportement du système non pas dans le meilleur cas, mais dans un cas typique, proche du pire. Une baisse d'au moins 25 % grâce à un cache amélioré signifie que le système livre désormais l'immense majorité des réponses vocales nettement plus vite qu'auparavant, sans modifier le modèle de raisonnement lui-même.

Comment se connecter aux nouveaux modèles

OpenAI a conservé pour la gamme Realtime la connexion via le protocole WebRTC, la même méthode que pour les versions précédentes. Les développeurs ayant déjà intégré des agents vocaux sur l'API Realtime peuvent ainsi passer aux nouveaux modèles sans changer de protocole de transport.

Ce que cela signifie

La mise à jour de la gamme Realtime montre qu'OpenAI continue d'améliorer de façon ciblée l'infrastructure des agents vocaux : elle réduit la latence et rend l'accès aux modèles de raisonnement vocaux moins coûteux, au lieu de ne sortir que des versions plus puissantes mais aussi plus chères.