Google lanza Gemini Decision 1: decisiones mediante API por 0,10 dólares por millón de tokens

Un comprador escribe: «El pedido llegó roto y quiero que me devuelvan el dinero». La aplicación debe identificar el tema de la consulta y enviarla al empleado adecuado. Google ha lanzado Gemini Decision 1 para este tipo de decisiones: el modelo devuelve puntuaciones que el código utiliza para elegir la siguiente acción. Un motivo práctico para prestarle atención es la posibilidad de automatizar la clasificación de solicitudes, las comprobaciones de contenido y otras decisiones repetitivas dentro de un producto.

En Telegram se presentó la novedad como un competidor de Jev. Es un punto de partida comprensible para el debate, pero aún es pronto para elegir una herramienta basándose en esa comparación: el equipo tendrá que comprobar su calidad con sus propias consultas y calcular el coste del proceso.

Qué obtiene el desarrollador

La documentación de Decisions API describe tres modos: comprobar una condición, elegir entre opciones predefinidas y puntuar en una escala. La respuesta contiene valores que el software puede procesar, incluidas probabilidades y el nivel de confianza del modelo. No se generan tokens de texto de salida.

Para una tienda hipotética, pueden definirse comprobaciones independientes: si el cliente informa de daños, si solicita un reembolso y si hay información suficiente para tramitar la solicitud. Después, el código convencional combina los resultados. Supongamos que la consulta está claramente relacionada con daños, pero no incluye el número de pedido. La siguiente acción podría ser solicitar la información que falta.

Aquí conviene separar la comprensión del mensaje de las facultades del sistema. Identificar el tema de una consulta es una tarea. Autorizar un reembolso es otra, con sus propias reglas. En el esquema propuesto, el modelo ayuda a interpretar las solicitudes entrantes, mientras que el equipo define por separado las condiciones de las operaciones monetarias. Así resulta más fácil determinar en qué etapa se produjo un error y corregir la regla concreta.

Cuánto cuesta una decisión de este tipo

La lista oficial de precios de Google indica 0,10 dólares por millón de tokens de entrada. Se admiten texto, imágenes, audio, vídeo y PDF. Los datos de entrada compartidos dentro de una solicitud se facturan una sola vez, independientemente del número de preguntas. Sin embargo, las instrucciones y los criterios de cada pregunta añaden sus propios tokens.

Por eso conviene leer con cautela la expresión «sin cargos adicionales» de la publicación original: la ausencia de tokens de salida no hace que las instrucciones adicionales sean gratuitas. Si el equipo envía criterios extensos para cada comprobación, también debe incluir ese volumen en el cálculo.

Tomemos un volumen hipotético: diez millones de tokens de entrada facturables costarían un dólar con esta tarifa. Es un ejemplo aritmético del coste de la API. El presupuesto completo del producto incluirá el desarrollo de la integración, el almacenamiento de resultados, la gestión de fallos y el trabajo de los empleados con las consultas ambiguas. A los responsables de producto les conviene calcular el coste por solicitud procesada correctamente: esta métrica vincula el precio del modelo con el resultado para el negocio.

Hay un nivel gratuito. La tabla de Google indica que sus datos pueden utilizarse para mejorar los productos; para el nivel de pago indica lo contrario. Es una diferencia importante al elegir los datos de una prueba piloto.

Cómo comprobar su utilidad antes de implementarlo

Conviene empezar por un proceso bien definido, como distribuir las consultas entre departamentos. Recopile solicitudes históricas con respuestas verificadas de los empleados y páselas por el modelo. Identifique de antemano los mensajes ambiguos: varios problemas en un mismo correo, sarcasmo, información incompleta y peticiones que no encajan en ningún departamento.

Mida por separado las asignaciones incorrectas y la proporción de consultas que hubo que derivar a una persona. Una confianza elevada del modelo no demuestra por sí sola la calidad en su conjunto de datos. Para la selección de categorías, la documentación también advierte de que las probabilidades se distribuyen entre las opciones propuestas incluso cuando ninguna es adecuada. Por ello, incluya una categoría «otros» y una vía de revisión manual.

El siguiente paso es ejecutar el sistema en paralelo al trabajo de los empleados, manteniendo el proceso habitual. Esto permitirá detectar discrepancias antes de activar las acciones automáticas. Después podrá confiar gradualmente al sistema los casos más claros y medir cuánto tiempo ahorra realmente.

Gemini Decision 1 merece una prueba piloto de este tipo si el producto ya maneja un flujo de decisiones similares. Habrá motivos para implementarlo cuando la evaluación muestre una tasa de errores aceptable y una reducción de los costes de tramitación.