IBM Research reduce 11,5 veces el coste de inferencia con agentes abiertos

IBM Research ha informado de que los modelos abiertos, combinados con el framework llm-d, le permitieron explorar soluciones de hardware para la corrección cuántica de errores con un coste de inferencia 11,5 veces inferior al de una configuración totalmente propietaria. Se trata de una «fábrica de agentes»: un sistema en el que muchos agentes de IA participan en paralelo en el diseño de chips. Es uno de los pocos casos en los que la economía de una carga de trabajo agéntica se expresa con un multiplicador concreto.

Qué ha declarado IBM y qué no ha revelado

La formulación del anuncio es breve. Hay modelos abiertos, hay llm-d, hay una tarea del ámbito de la corrección cuántica de errores y hay una comparación con una configuración en la que todos los componentes son propietarios. No hay lista de modelos, ni número de GPU, ni volumen de tokens procesados, ni calidad del resultado frente a la alternativa cerrada. Sin eso, el 11,5× debe leerse como el coste en unas condiciones concretas, y no como una constante universal. Tampoco se sabe qué stack propietario se tomó como referencia ni cómo se calcularon los costes.

Una rebaja de precio de más de diez veces nunca sale gratis. La cuestión es hasta qué punto son comparables los resultados de los agentes en ambas configuraciones. IBM aún no ha mostrado qué se obtuvo exactamente a la salida.

El papel de llm-d

llm-d es un framework abierto de inferencia distribuida nativo de Kubernetes. Se construye sobre vLLM y se lanzó en 2025 con la participación de Red Hat, IBM Research, Google, NVIDIA y CoreWeave. Sus ideas clave son separar las etapas de prefill y decode en pools de recursos distintos y enrutar las solicitudes teniendo en cuenta la KV-cache.

Para los sistemas agénticos esto importa por una razón sencilla. Los agentes de diseño de chips manejan prefijos largos y compartidos: especificaciones, logs de simulaciones, descripciones de arquitectura. Hay muchas solicitudes y a menudo coinciden en el contexto. Si el enrutador las envía a réplicas que ya tienen la caché caliente, se eliminan cálculos innecesarios. IBM no ha desglosado en el anuncio la aportación concreta de llm-d al 11,5× final, así que esto es lógica de ingeniería y no una atribución confirmada.

Por qué precisamente la corrección cuántica de errores

Las soluciones de hardware para la corrección de errores se enfrentan a un espacio enorme de variantes: códigos, decodificadores, topologías de conexión, restricciones de latencia. Recorrerlas a mano lleva mucho tiempo. El enfoque agéntico convierte esa búsqueda en un flujo de iteraciones: proponer una configuración, ejecutar una simulación, analizar el resultado y corregir. Cada ciclo contiene varias llamadas a un LLM, y hay miles de ciclos.

Con esta carga, la inferencia se convierte en la principal partida del presupuesto de investigación. El multiplicador de 11,5 significa que, con la misma cantidad de dinero, se pueden realizar un orden de magnitud más de experimentos o mantener a los agentes en funcionamiento de forma continua.

Parámetros clave

• Organización: IBM Research
• Ámbito: diseño de chips con agentes, corrección cuántica de errores
• Stack: modelos abiertos y llm-d
• Ahorro declarado: 11,5× frente a una configuración totalmente propietaria
• No revelado: modelos, hardware, volumen de tokens, métricas de calidad

Qué pueden sacar de esto los equipos

Primero: calculen el coste no por token, sino por tarea resuelta con éxito. Un modelo barato con muchos intentos fallidos puede salir peor que uno caro. Segundo: si la carga es agéntica y el contexto se repite, evalúen la capa de inferencia teniendo en cuenta la caché, y no solo el modelo en sí.

Tercero: un esquema híbrido, en el que los modelos abiertos asumen los pasos masivos y los cerrados se incorporan en los complejos, suele resultar más rentable que los extremos. Por último, ante cualquier afirmación del tipo «N veces más barato», pregunten primero qué se tomó como referencia y cómo se verificó la calidad. En este caso aún no hay datos completos, y conviene esperar al informe técnico de IBM.