LoCA combina Sentinel-1 y Sentinel-2 y gana el 68,8% de las comparaciones frente a SatCLIP

Los codificadores de coordenadas como SatCLIP y GeoCLIP convierten un par (latitud, longitud) en un vector que luego se usa para predecir incendios, estimar el clima, cartografiar usos del suelo y contar biodiversidad. Funcionaban bien, pero hasta ahora nadie había explicado con claridad por qué ni cómo añadirles una segunda fuente de datos. Un grupo de autores liderado por Panagiotis Koromilas propone una teoría y un esquema práctico: LoCA (Location Contrastive Alignment). En 17 tareas, el modelo ganó el 68,8% de todas las comparaciones por pares frente a cinco competidores actuales.

Teorema de las dos dimensiones

El principal resultado teórico resulta incómodo para todo el campo. Cualquier codificador de coordenadas lipschitziano produce una salida con dimensión intrínseca no superior a 2, sea cual sea la arquitectura y el ancho de banda de frecuencias. Al fin y al cabo, la entrada es bidimensional. De ello se deduce que, en este planteamiento, la pérdida contrastiva queda estrictamente por encima de su óptimo asintótico y no llega al mínimo.

La evidencia empírica va en la misma línea. Si se entrenan juntos desde cero un codificador de imágenes y uno de coordenadas, la covarianza de los embeddings colapsa a un rango muy bajo. Entonces, ¿por qué funcionan los modelos tipo SatCLIP? Los autores lo explican así: el codificador de coordenadas aprende ajustándose a un codificador de imágenes congelado. Este actúa como regularizador de la covarianza y fija un objetivo de rango alto al que el codificador de coordenadas se acomoda.

Dos sensores, dos requisitos para el objetivo

Con una sola modalidad, este truco es conocido. Con varias, la cosa se complica: un mismo punto del mapa debe recibir varios descriptores a la vez, y esos descriptores pueden contradecirse. Los autores formularon dos condiciones para el regularizador:

• Co-alineación entre modalidades. Los adaptadores no logran conciliar codificadores preentrenados de forma independiente, así que los objetivos deben estar alineados de antemano.
• Alto rango efectivo. El codificador de coordenadas hereda el espectro de su objetivo, y un objetivo pobre producirá embeddings pobres.

Cómo funciona LoCA

El esquema tiene dos etapas.

• Etapa 1. Los codificadores de Sentinel-1 (radar) y Sentinel-2 (óptico) se entrenan conjuntamente con aprendizaje contrastivo. El resultado es un objetivo multimodal co-alineado y de rango alto.
• Etapa 2. Se congelan los codificadores de imágenes. El codificador de coordenadas y el de metadatos tabulares se entrenan como adaptadores de proyección con aprendizaje contrastivo multi-view.

En la inferencia no se necesitan imágenes: bastan las coordenadas. Esto es importante en la práctica: no hacen falta escenas satelitales recientes, y el embedding se calcula a partir de un punto del mapa.

Contra quién y con qué resultado

LoCA se comparó con cinco codificadores actuales:

• SatCLIP;
• GeoCLIP;
• GT-Loc;
• AlphaEarth;
• Copernicus-FM.

Las pruebas incluyeron 17 tareas de seis áreas: land cover, predicción de incendios forestales, clima, geofísica, indicadores socioeconómicos y biodiversidad. Resultados:

• LoCA acumula más victorias por tareas;
• quedó entre los dos primeros en 11 de las 17 tareas;
• es el único modelo que superó a cada uno de los demás en la mayoría de las tareas;
• en las comparaciones por pares entre tareas ganó el 68,8%;
• sus embeddings usan el 62% de las dimensiones, frente al 35% de SatCLIP.

Esta última cifra concuerda con la teoría. Si el rango efectivo del objetivo es mayor, el embedding también aprovecha mejor el espacio, y quedan menos dimensiones sin uso.

Dónde puede resultar útil

Los geoembeddings suelen incorporarse a modelos tabulares y de series temporales como variables adicionales. Para los equipos que predicen incendios, rendimiento agrícola o indicadores económicos por regiones, es una forma de obtener una «sensación del terreno» sin almacenar ni procesar imágenes. El radar Sentinel-1 ve a través de las nubes y muestra la humedad y la estructura de la superficie, mientras que el sensor óptico Sentinel-2 aporta el espectro de la vegetación. Combinados en un mismo punto, ofrecen una variable más rica que cualquiera de los dos sensores por separado.

La conclusión práctica para los desarrolladores es esta: al añadir modalidades, hay que vigilar ante todo el rango y la coherencia del objetivo, y no tanto el tamaño del codificador de coordenadas. El código y los pesos preentrenados se han prometido en el repositorio github.com/eleannavali/LoCA, y una verificación independiente con tareas propias mostrará hasta qué punto el 68,8% se mantiene fuera del conjunto de 17 pruebas de los autores.