LeWorldModel, sometido a una prueba de sensibilidad a las acciones: los ejes divergen entre 36° y 42°

Una world model preentrenada puede predecir bien el futuro y, aun así, reaccionar de forma incorrecta a pequeños cambios en las acciones. Es lo que comprobaron Vasil Vasilev y Siddharth Nayak en el preprint arXiv 2610.31716 sobre LeWorldModel (LeWM). En casi mil estados de los entornos Reacher y OGBench Cube, las direcciones de acción más sensibles del modelo y del simulador divergen en mediana 36° y 42°, respectivamente. Este resultado corresponde a la más pequeña de las tres escalas de perturbación.

Cómo se midió la sensibilidad a las acciones

Un modelo que predice la siguiente observación no necesariamente entiende cómo depende la respuesta de la acción. Para la planificación y el control, lo segundo es más importante. El planificador explora variantes de acción y elige aquella tras la cual el futuro predicho se ve mejor. Si el modelo no refleja correctamente qué movimientos cambian más el resultado, la optimización avanza sobre un paisaje distorsionado.

Los autores construyeron matrices de Gram para las acciones, es decir, una descripción de cuánto y en qué direcciones un pequeño cambio en la acción desplaza el resultado. Para compararlas, usaron ejecuciones contrafactuales pareadas del simulador y las respuestas del modelo desde el mismo estado. La sensibilidad se midió en tres escalas de perturbación y en tres representaciones: en píxeles, en embeddings y en coordenadas físicas seleccionadas del estado.

Qué mostraron Reacher y Cube

El resultado principal se refiere a las direcciones. Si en el simulador una combinación concreta de componentes de la acción es la que más cambia el mundo, LeWM considera en mediana que la dirección más sensible es otra, desviada 36° en Reacher y 42° en OGBench Cube. Se trata de los ejes principales de sensibilidad, no de ruido aleatorio en puntos aislados.

La escala influye de forma notable. Si la perturbación de la acción se multiplica por diez, la divergencia mediana normalizada entre las matrices de Gram cae aproximadamente un 70% en Reacher y un 47% en Cube. El modelo se acerca más al entorno con cambios de acción más gruesos y se aleja con más claridad en los finos. Por eso, la conclusión sobre la calidad de LeWM depende de la escala elegida para la evaluación.

Píxeles, embeddings y física

La geometría medida depende también del espacio en el que se calcula. En píxeles y en embeddings cambia entre escalas bastante más que en las coordenadas físicas del estado. La valoración del modelo varía según se observe la imagen, la representación latente o la posición y la velocidad de los objetos.

Por separado, los autores comprobaron la predicción de la respuesta en direcciones reservadas (held-out), que no participaron en la construcción de la métrica. Resultados en errores medianos de la respuesta de los embeddings:

• Reacher, métrica del entorno (environment Gram): 17%
• OGBench Cube, métrica del entorno: 28%
• Reacher, referencia isotrópica con la misma traza: 26%
• OGBench Cube, referencia isotrópica con la misma traza: 38%
• LeWM en esta escala: errores superiores a los de la métrica del entorno

La referencia isotrópica reparte la sensibilidad de forma uniforme entre todas las direcciones y conserva la intensidad total de la respuesta, es decir, la traza de la matriz. Sirve como umbral inferior: la métrica del entorno lo supera, mientras que la geometría de LeWM ofrece predicciones menos precisas de la magnitud de la respuesta en direcciones nuevas que la métrica derivada del entorno.

Qué comprobar antes de planificar con una world model

La conclusión práctica de los autores es que evaluar una world model solo por la precisión de sus predicciones no basta. Hay que observar cómo cambian las predicciones cuando cambian las acciones, y hacerlo en varias escalas de perturbación y en varias representaciones. Si la comprobación se hace en una sola escala, puede mostrar un modelo mejor o peor de lo que será su comportamiento en una tarea real.

El trabajo no demuestra la relación entre estas divergencias y la calidad del control. Los autores califican expresamente el efecto sobre el control como una cuestión abierta y piden a otros investigadores su opinión sobre las implicaciones para la planificación basada en modelos (model-based planning). El estudio se realizó con dos entornos y un único modelo preentrenado, por lo que aún es pronto para generalizarlo a todas las world models. En cambio, los equipos que construyen planificadores sobre modelos latentes obtienen un conjunto concreto de diagnósticos: matrices de Gram, ejecuciones contrafactuales del simulador y direcciones reservadas. El proyecto está publicado en la página geometry.vasi.boo.