OpenAI lanza GPT-Realtime-2.1 y una versión mini para agentes de voz en su API

OpenAI ha añadido a su API dos nuevos modelos de la línea Realtime: GPT-Realtime-2.1 y la versión más ligera GPT-Realtime-2.1-mini. Ambos están pensados para agentes de voz con baja latencia de respuesta.

Novedades de la línea Realtime

GPT-Realtime-2.1-mini es un modelo de razonamiento compacto orientado a escenarios de voz. Su precio coincide con el del anterior gpt-realtime-mini, así que pasar a la nueva versión no encarece el uso para los desarrolladores que ya trabajaban con el modelo mini previo. La línea Realtime de la API de OpenAI se concibió desde el principio para tareas en las que no encajan los modelos de texto que generan una respuesta intermedia: asistentes de voz, interfaces conversacionales de soporte y agentes que deben reaccionar a las intervenciones del usuario casi sin pausa.

Lanzar dos modelos a la vez, el principal GPT-Realtime-2.1 y la versión mini, ofrece a los desarrolladores elegir entre un modelo de razonamiento más potente y una opción más barata para casos en los que importan más la velocidad y el coste que la profundidad del razonamiento en cada respuesta.

• Dos nuevos modelos: GPT-Realtime-2.1 y GPT-Realtime-2.1-mini
• GPT-Realtime-2.1-mini es un modelo de razonamiento compacto para voz
• El precio de la versión mini es comparable al del anterior gpt-realtime-mini
• La latencia p95 baja al menos un 25% gracias a un mejor almacenamiento en caché
• La conexión con los modelos se hace mediante el protocolo WebRTC

Por qué importa la latencia p95

Para los agentes de voz, que deben responder al usuario en tiempo real, la latencia es uno de los indicadores clave de calidad: cuanto mayor es, más mecánica y poco natural resulta la conversación. La métrica p95 indica la latencia que no superan el 95% de las solicitudes, es decir, refleja el comportamiento del sistema no en el mejor caso, sino en un caso típico y cercano al peor. Reducirla al menos un 25% mediante un mejor almacenamiento en caché significa que el sistema entrega ahora la inmensa mayoría de las respuestas de voz notablemente más rápido que antes, sin cambiar el propio modelo de razonamiento.

Cómo conectarse a los nuevos modelos

OpenAI mantiene para la línea Realtime la conexión mediante el protocolo WebRTC, el mismo método que se usaba en las versiones anteriores. Esto permite a los desarrolladores que ya han integrado agentes de voz con la API Realtime cambiar a los nuevos modelos sin modificar el protocolo de transporte.

Qué significa

La actualización de la línea Realtime muestra que OpenAI sigue mejorando de forma puntual la infraestructura de agentes de voz: reduce la latencia y abarata el acceso a modelos de razonamiento para voz, en lugar de lanzar solo versiones más potentes pero también más caras.