MMVistaReason: una receta abierta para entrenar un modelo de 4B supera a Qwen3.5-9B en 15 benchmarks

Los modelos multimodales abiertos de razonamiento llevan tiempo entrenándose con grandes volúmenes de trayectorias anotadas, pero la calidad final suele ser irregular: los datos son heterogéneos, la dificultad está sesgada y los dominios se estorban entre sí. Los autores de MMVistaReason (MVR) proponen una receta completa de posentrenamiento con datos abiertos y respaldan el resultado con cifras. El modelo MVR-4B alcanza una media de 72,8 puntos en 15 benchmarks multimodales y supera a Qwen3.5-9B (Instruct) y a MMFineReason-8B. Además, le bastó con aproximadamente un 70% menos de muestras de entrenamiento que a MMFineReason. La versión de 9B sube la media a 74,4 y adelanta a Qwen3.5-35B-A3B (Instruct).

Tres capas de la receta: cobertura, datos, especialización

La primera capa se ocupa de la cobertura de habilidades. Los autores dividen las capacidades en dos grupos complementarios, Analytical y Real-World. El énfasis recae en el razonamiento estructural, y no solo en la percepción visual y el anclaje espacial (spatial grounding).

La segunda capa trata la construcción de los datos. Los datasets abiertos heterogéneos se llevan a un formato común mediante una limpieza y una anotación por etapas. Para SFT se aplica una destilación en cascada desde profesores, teniendo en cuenta la dificultad de las tareas. De entre las trayectorias generadas se eligen las que tienen mayor verosimilitud de la respuesta correcta (answer-likelihood). Así se obtuvo el corpus MVR-SFT-528K. Para RL se construyó aparte el conjunto MVR-RL-63K, filtrado según la «frontera» de capacidades de cada escala de modelo: las tareas no deben ser ni demasiado fáciles ni claramente inalcanzables.

La tercera capa se llama specialize-then-integrate. Primero se entrenan expertos de RL complementarios, cada uno en su área. Después sus habilidades se reúnen en un único modelo mediante multi-teacher on-policy distillation (MOPD).

Los pequeños necesitan selección; los grandes pueden prescindir de ella

Lo más interesante del artículo es el análisis de la dependencia respecto a la capacidad del modelo. La dificultad de los ejemplos, la calidad de las trayectorias y el tamaño del estudiante se influyen mutuamente. Los modelos pequeños ganan mucho con una supervision cuidadosamente seleccionada. Los grandes son más robustos: toleran la dispersión en la calidad de las trayectorias y la interferencia de dominios mezclados.

El RL con dominios mezclados produce transferencia negativa en benchmarks concretos: lo que se mejora en un sitio se paga con una caída en otro. MOPD, en cambio, integra las habilidades de forma estable. Además, la dirección preferible de la divergencia KL en la destilación cambia con la escala del modelo, así que no existe un ajuste universal.

Qué se comparó y qué se obtuvo

• MVR-4B: media de 72,8 en 15 benchmarks multimodales • MVR-9B: media de 74,4 en los mismos 15 benchmarks • Qwen3.5-9B (Instruct): queda por debajo de MVR-4B • MMFineReason-8B: queda por debajo de MVR-4B y utiliza aproximadamente un 70% más de muestras de las que necesita MVR • Qwen3.5-35B-A3B (Instruct): queda por debajo de MVR-9B • MVR-SFT-528K: corpus para la etapa supervisada • MVR-RL-63K: corpus para la etapa de RL, con filtrado por la frontera de capacidades • MOPD: método de fusión de expertos de RL mediante destilación on-policy con varios profesores

La comparación con Qwen3.5-35B-A3B conviene leerla con cautela: es un modelo MoE con pocos parámetros activos, y el contraste se hace con su versión Instruct. Aun así, un modelo denso de 9B entrenado con datos abiertos supera a otro notablemente mayor en número total de parámetros. Es lo que afirman los propios autores.

Qué llevarse a tu pipeline

Para los equipos que hacen fine-tuning de VLM abiertos, el artículo deja varias reglas prácticas. Si el modelo es pequeño, conviene invertir en la selección de trayectorias y en la calibración de la dificultad: ahí es donde el retorno es mayor. Si es grande, se puede ahorrar en la limpieza, pero no en la separación de dominios en RL.

Mezclar todos los dominios en una sola ejecución de RL es arriesgado. Es más fiable entrenar expertos estrechos y fusionarlos mediante destilación, ajustando la dirección de KL al tamaño del modelo. Los problemas de RL deben filtrarse para una escala concreta: un conjunto que funciona bien para 9B puede resultar inútil para 4B.

El código del proyecto está publicado en GitHub, en el repositorio JackieForest/MMVistaReason. El artículo salió el 22 de octubre de 2026 y sus autores son Juekai Lin, Honglin Lin, Yuqian Yuan, Xiaolong Wu, Jie Cao, Liang Liang, Yunqi Cao, Yun Zhu, Wenqiao Zhang y Lijun Wu. El trabajo entró en Hugging Face Daily Papers, donde por ahora suma tres upvotes, así que todavía habrá que esperar a que haya verificaciones independientes de los resultados.