MIT presenta WRING, un método para reducir el sesgo de los modelos de visión sin crear nuevos sesgos

MIT, Worcester Polytechnic Institute y Google han presentado WRING, un nuevo método para reducir el sesgo en modelos de visión y lenguaje. Su objetivo es resolver un viejo problema del debiasing: eliminar un sesgo sin crear otro en una parte vecina del modelo.

Por qué fallan los métodos anteriores

El sesgo en visión por computador hace tiempo que dejó de ser una discusión académica. Si un modelo ayuda a un dermatólogo a evaluar imágenes de piel, un sesgo hacia un determinado tono de piel puede provocar que se pase por alto un riesgo. Lo mismo ocurre con la búsqueda de imágenes, la clasificación de objetos y cualquier sistema en el que un modelo relacione imagen y texto. Los investigadores del MIT recuerdan que el sesgo no solo viene de los datos, sino también de cómo el propio modelo organiza las conexiones dentro de sus embeddings.

La técnica más popular es el projection debiasing. En pocas palabras, se «recorta» de la representación del modelo la dirección responsable de un atributo no deseado. Sobre el papel parece lógico, pero en la práctica produce lo que los investigadores llaman el dilema del Whac-a-mole: eliminas un sesgo y en otro lugar aparece uno nuevo. Por ejemplo, si se atenúa el sesgo racial en un modelo que selecciona imágenes de personal sanitario, se puede reforzar sin querer el sesgo de género. El modelo deja de usar un atajo, pero se apoya más en otro.

Qué hace WRING

WRING, o Weighted Rotational DebiasING, propone no recortar un trozo del espacio de características, sino rotar con cuidado las coordenadas pertinentes dentro del subespacio relevante. La idea es que el modelo deje de distinguir entre grupos allí donde eso genera un sesgo indeseado, sin perder el resto de las conexiones útiles. Si la proyección habitual altera de forma bastante brusca la geometría alrededor del atributo objetivo, WRING intenta conservarla lo más intacta posible.

«Cuando simplemente recortas el sesgo, comprimes sin querer todo el

espacio a su alrededor», así describen los autores el punto débil de los enfoques anteriores.

En la práctica, el método puede aplicarse a un modelo de visión y lenguaje ya entrenado, como CLIP u OpenCLIP, sin reentrenarlo desde cero. Para la industria esto es clave: los grandes modelos multimodales son caros y pocos equipos quieren volver a ejecutar todo el pipeline de entrenamiento por un solo paso correctivo. WRING funciona como un enfoque de posprocesado, es decir, se aplica sobre un modelo terminado y puede usarse «al vuelo» en escenarios de búsqueda, ranking o clasificación de imágenes.

Qué mostraron las pruebas

El trabajo fue aceptado en ICLR 2026. En sus experimentos, los autores compararon WRING con los enfoques de proyección habituales en cuatro conjuntos de datos. En dos se trataba de sesgos raciales y de género; en otro, de fotos de perros, donde el modelo confundía el propio objeto con el fondo; y en otro, de ropa, donde se mezclaban color, estacionalidad y asociaciones de género. La conclusión general: WRING redujo de forma notable el sesgo del atributo objetivo sin disparar sesgos ocultos en otras direcciones.

• En imágenes de perros, el método eliminó la dependencia del fondo sin reforzar el sesgo por raza canina.
• En imágenes de personas, redujo el sesgo objetivo sin un aumento colateral de otras asociaciones sensibles.
• En ropa, conservó más estructura del modelo original que la eliminación de características por proyección.
• El método no requiere ajuste fino, por lo que es más sencillo de incorporar a pipelines que ya funcionan.

El enfoque tiene una limitación: por ahora funciona mejor con modelos contrastivos tipo CLIP, en los que imágenes y texto comparten un mismo espacio de embeddings. El siguiente paso lógico, que los propios autores consideran prioritario, es trasladar la idea a modelos de lenguaje generativos al estilo de ChatGPT. Si funciona, WRING podría dejar de ser una herramienta de nicho para visión por computador y convertirse en una forma más general de corregir sesgos con mayor seguridad en sistemas de IA ya entrenados.

Qué significa

WRING resulta interesante no porque prometa «resolver por completo el sesgo», sino porque ofrece un compromiso de ingeniería más cuidadoso. Para los equipos que ya usan modelos tipo CLIP en medicina, búsqueda o moderación, es una vía práctica para reducir sesgos sin un reentrenamiento costoso y sin el riesgo de dañar por accidente otras propiedades del modelo.