arXiv cs.CV→ original

SPLIT-RL enseña a los VLM a ver y a razonar por separado: +1,4–6,1 p. p. frente a GRPO

Los autores del preprint arXiv:2610.10889 proponen SPLIT-RL, un posentrenamiento en dos fases para modelos vision-language. La percepción de la imagen y el razonamiento lingüístico se entrenan por separado, cada uno con su propia recompensa. Para la fase de percepción añaden CLA-GRPO: la respuesta se descompone en afirmaciones visuales atómicas y el advantage se calcula para cada una de ellas. La precisión media mejoró entre 1,4 y 6,1 puntos respecto a GRPO en Qwen3-VL (2B–30B-A3B) e InternVL3.5-8B. En inferencia sigue habiendo una sola llamada de CoT. • Dos fases de entrenamiento: percepción y razonamiento. • El advantage se calcula por afirmaciones visuales individuales. • El GRPO convencional apenas mejora la percepción; SPLIT-RL mejora tanto la percepción como el razonamiento.

Procesado por IA desde arXiv cs.CV; editado por Hamidun News
SPLIT-RL enseña a los VLM a ver y a razonar por separado: +1,4–6,1 p. p. frente a GRPO
Fuente: arXiv cs.CV. Collage: Hamidun News.
◐ Escuchar artículo

Los autores del preprint arXiv:2610.10889 proponen SPLIT-RL, un esquema de posentrenamiento en el que un modelo vision-language aprende primero a extraer correctamente la información de la imagen y después a deducir de ella la respuesta. La precisión media mejoró entre 1,4 y 6,1 puntos respecto al GRPO estándar. Las mediciones se hicieron con modelos Qwen3-VL de 2B a 30B-A3B y con InternVL3.5-8B. La inferencia no cambia: una sola llamada de chain-of-thought, igual que en un modelo entrenado con GRPO convencional.

Una recompensa para dos habilidades

El razonamiento VL consta de dos partes: la visual (VR), en la que el modelo extrae de la imagen los detalles necesarios y exactos, y la lingüística (LR), en la que construye la respuesta a partir de esos detalles. El aprendizaje por refuerzo con recompensas verificables (RLVR) suele pasar ambas partes por una única cadena de razonamiento, con recompensa solo por la respuesta final. Cada token del CoT recibe el mismo advantage a nivel de secuencia.

Si el modelo lee mal un valor de un gráfico pero la lógica es impecable, se penalizan también los pasos correctos. Si la percepción era correcta y la deducción errónea, la penalización también recae sobre la percepción. La señal no indica qué capacidad ha fallado.

Dos fases y advantage a nivel de afirmación

SPLIT-RL divide el entrenamiento en fases que no se solapan: VR por un lado y LR por otro, cada una con su propia recompensa. La lógica se apoya en cómo funciona GRPO, donde los rollouts de un grupo se comparan entre sí. Si dentro de una fase los rollouts difieren solo en una capacidad, el group-relative advantage aísla precisamente esa capacidad. El resumen no incluye las fórmulas concretas de las recompensas.

Para la fase de percepción, los autores añadieron Claim-Level Advantage (CLA-GRPO). Los rollouts se descomponen en afirmaciones visuales atómicas, del tipo «en la imagen hay tres objetos rojos», y el advantage se calcula por separado para cada afirmación. Los grupos se forman según el tipo visual de la afirmación. En lugar de un único escalar para todo el texto, el modelo recibe una señal detallada de qué ha visto bien y qué ha visto mal.

Parámetros clave del trabajo:

  • Método: posentrenamiento en dos fases (VR y después LR) con una recompensa para cada fase.
  • Nuevo algoritmo para la fase VR: CLA-GRPO, con advantage a nivel de afirmaciones visuales.
  • Mejora: +1,4–6,1 puntos de precisión media respecto a GRPO.
  • Modelos: Qwen3-VL (2B–30B-A3B) e InternVL3.5-8B.
  • Inferencia: una sola llamada de CoT; la arquitectura y el protocolo de evaluación son los mismos que en un modelo con GRPO.

Diagnóstico: con GRPO, la percepción no se mueve

Lo más interesante del artículo no es la mejora final, sino el diagnóstico. Los autores evaluaron cada capacidad por separado con un enfoque oracle. Su conclusión: GRPO con recompensa solo por la respuesta deja la percepción sin cambios, mientras que SPLIT-RL mejora tanto la VR como la LR. Es decir, buena parte del «progreso en razonamiento» con el RLVR estándar se debe en realidad a la parte lingüística, y la visual se queda al nivel del modelo base.

Las limitaciones también son visibles. Una diferencia de 4,7 puntos entre la mejora mínima y la máxima indica una fuerte dependencia del modelo, y por el resumen no se puede saber dónde es mayor el efecto. El entrenamiento se complica: hacen falta dos fases y un mecanismo que divida las respuestas en afirmaciones visuales verificables. El resumen no estima el coste de todo esto.

Qué llevarse a la práctica

Los equipos que ajustan VLM con RLVR deberían añadir a su pipeline una evaluación separada de percepción y razonamiento, antes y después del entrenamiento. Si la precisión en los benchmarks sube pero la percepción se mantiene igual, es probable que el modelo simplemente deduzca mejor la respuesta a partir de la misma lectura imprecisa de la imagen. Esto es especialmente importante en tareas con documentos, diagramas y tablas, donde un error al leer una cifra invalida cualquier lógica posterior. El coste adicional de SPLIT-RL recae solo en la fase de entrenamiento; el serving sigue igual. Antes de adoptarlo, conviene esperar a las tablas completas de benchmarks y al código, y después probar el método con datos propios.

ZK
Hamidun News
Noticias de AI sin ruido. Selección editorial diaria de más de 50 fuentes. Producto de Zhemal Khamidun, Head of AI en Alpina Digital.
✦ Unified AI Workspace

Access Frontier LLMs & Multimodal AI in One Workspace

Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.

Try NomadNet AI →Launch NomadNet Agent
¿Qué te parece?
Cargando comentarios…