MapFlow, de la Universidad de Pekín, permite que los modelos reutilicen la atención de otros

Los agentes multimodelo se han convertido en una arquitectura habitual. El modelo A planifica, el modelo B detalla y cierra con el resultado. Las preguntas complejas van al modelo potente; las sencillas, al ligero y barato. La idea es clara: calidad donde hace falta, ahorro donde se puede. Pero este esquema tiene una partida de costes oculta de la que rara vez se habla en las presentaciones.

Dónde se pierde el dinero

Imagine un escenario típico. Un modelo grande acaba de procesar un documento largo: un contrato, una base de código o un volcado de logs. Ha construido una representación interna del texto y la mantiene en la caché KV. Entonces entra en juego un modelo pequeño, que debe responder a una pregunta de seguimiento o preparar el informe final. La caché del modelo grande no le sirve: otra arquitectura tiene otras dimensiones, capas y cabezas de atención. Por eso el modelo pequeño procesa el mismo documento desde cero, gastando tiempo y dinero en el prefill.

En consultas cortas esto pasa inadvertido. Con contexto largo, varios traspasos en una misma tarea y un gran flujo de usuarios, el prefill repetido se convierte en una parte apreciable de la latencia y de la factura de GPU. En la práctica, se paga varias veces por una sola lectura, una por cada modelo de la cadena.

Qué propone MapFlow

Un equipo de la Universidad de Pekín ha presentado MapFlow. A juzgar por el título y el inicio de la descripción, la idea es no recalcularlo todo, sino reutilizar la atención entre modelos. En lugar de volver a calcular en el modelo receptor, los resultados ya listos del modelo anterior se proyectan a su espacio.

Por analogía: un colega ha escrito un resumen detallado de un documento largo y, en vez de releer el original, usted traduce sus notas a su propio lenguaje y trabaja con ellas. El nombre parece reflejar lo mismo: «map» es la proyección y «flow», el flujo de información de un modelo a otro.

Una salvedad importante. En el fragmento al que tenemos acceso no hay ni el mecanismo concreto de proyección, ni cifras de aceleración y pérdida de calidad, ni una lista de pares de modelos compatibles. Estos detalles lo deciden todo, así que es pronto para valorar la utilidad práctica del método. Por ahora, se puede decir que la dirección es correcta y el problema, real.

Por qué importa en la práctica

El coste de los sistemas agénticos no lo determina una sola llamada al modelo, sino cuántas veces se repite el contexto entre llamadas. Hoy el ahorro parcial llega con el almacenamiento en caché de prefijos dentro de un mismo modelo y con familias de modelos que comparten tokenizador. La transferencia de atención entre modelos cubriría el caso en que se encadenan modelos distintos, por ejemplo uno grande para planificar y uno pequeño para ejecutar.

Si el método funciona en condiciones reales, se beneficiarán tres grupos:

• equipos con agentes sobre documentos y repositorios largos, donde el contexto se lee muchas veces;
• servicios con enrutamiento «modelo potente — modelo débil», donde el traspaso ocurre en cada petición;
• proveedores de inferencia, para quienes el prefill es caro.

Limitaciones y qué hacer ahora

Las preguntas clave para cualquier método así se conocen de antemano. ¿Cuánta calidad se pierde al proyectar entre arquitecturas distintas? ¿Hay que ajustar un adaptador para cada par de modelos? ¿Es compatible el enfoque con motores de inferencia populares como vLLM y SGLang? ¿Y qué ocurre con la memoria si hay que mantener la caché de un modelo mientras trabaja otro? Mientras no haya respuestas, nadie lo lleva a producción.

La conclusión práctica para el desarrollador es sencilla y no exige esperar al artículo completo. Mida cuántos tokens vuelve a procesar su agente en el traspaso entre modelos y qué parte de la latencia y del coste supone. Si la proporción es notable, siga MapFlow y trabajos afines. Si sus contextos son cortos, el problema aún no le afecta y no hay nada que optimizar.

Hasta que haya detalles y resultados reproducibles, trate MapFlow como una señal: el mercado choca con el coste de releer, y los investigadores empiezan a buscar soluciones en el propio nivel de la atención, y no solo en el de los proxies de caché y los prompts.