Eliminar sesgos en modelos de NLP crea nuevos estereotipos para otros grupos demográficos

Un estudio publicado en arXiv en julio de 2026 concluyó que los métodos de preprocesamiento para eliminar estereotipos en los modelos de lenguaje reducen el sesgo en los grupos objetivo, pero lo amplifican de forma imprevista en otras categorías demográficas, a veces totalmente ajenas a la tarea original. El trabajo abarca dos familias de arquitecturas y varias estrategias de preprocesamiento, lo que apunta a un problema sistémico.

Por qué el debiasing crea nuevos problemas

Los métodos de preprocesamiento de datos se usan ampliamente en NLP para reducir los estereotipos en los modelos de lenguaje. Los enfoques más comunes son eliminar del corpus las oraciones estereotipadas, eliminar las menciones a grupos demográficos y sustituir las referencias grupales por formulaciones neutras. Todos se consideran herramientas estándar del aprendizaje automático responsable.

Los autores probaron estas estrategias con textos de Wikipedia a varias escalas de corpus, aplicándolas tanto en el preentrenamiento como en el ajuste fino. Las pruebas abarcaron dos familias de arquitecturas fundamentalmente distintas: encoder-only (modelos tipo BERT) y decoder-only (modelos tipo GPT).

• Tres estrategias de preprocesamiento: eliminar oraciones estereotipadas, eliminar menciones de grupos, sustituir referencias grupales
• Dos familias de arquitecturas: encoder-only (tipo BERT) y decoder-only (tipo GPT)
• Los efectos aparecen tanto en el preentrenamiento como en el ajuste fino (fine-tuning)
• Datos: Wikipedia, distintas escalas de corpus

La conclusión clave: los tres enfoques reducen los estereotipos medibles en los grupos objetivo, pero provocan efectos secundarios no deseados en otras categorías demográficas, incluidas algunas totalmente ajenas a la tarea original. La estereotipación o la contraestereotipación pueden aumentar respecto a los valores base neutros. Al eliminar el sesgo en una categoría, los investigadores alteran sin darse cuenta el equilibrio en otras.

Dónde fallan los benchmarks estándar

Uno de los problemas principales es que las herramientas de evaluación actuales pasan por alto de forma sistemática estos cambios. Los benchmarks estándar de estereotipos están orientados a captar variaciones en los grupos demográficos objetivo. Simplemente no miden el efecto sobre el resto de las categorías.

Los autores aplicaron un análisis de attention-rollout para encontrar una explicación mecanicista de los efectos secundarios. Sin embargo, estos no van acompañados de cambios apreciables en los patrones de atención, lo que complica mucho la interpretabilidad y la búsqueda de relaciones causales en el funcionamiento del modelo.

«Los benchmarks estándar no detectan sistemáticamente estos cambios»,

advierten los autores.

Para los profesionales, esto supone una brecha seria entre las métricas y el impacto real: la reducción del sesgo en un grupo puede ocultar su redistribución hacia otros. Los equipos que se guían solo por métricas estándar corren el riesgo de tener una falsa sensación de éxito al evaluar sus métodos de debiasing.

Qué recomiendan los autores

Los investigadores proponen herramientas de diagnóstico concretas para rastrear los efectos secundarios. Entre las recomendaciones clave figuran evaluar el impacto en un amplio abanico de grupos demográficos, y no solo en el objetivo, y documentar todos los efectos secundarios como parte obligatoria de los informes de debiasing.

Los autores insisten en que las prácticas de mitigación atentas a los efectos secundarios deben convertirse en el nuevo estándar de transparencia en NLP. Ninguna de las tres estrategias probadas resultó libre de efectos secundarios, lo que exige replantear cómo la industria evalúa los métodos de eliminación de estereotipos.

Qué significa esto

El trabajo cuestiona las estrategias de debiasing aceptadas en NLP: reducir los estereotipos en un grupo demográfico no implica una mejora general. Un modelo puede redistribuir el sesgo entre grupos en lugar de eliminarlo de forma sistémica. Para los profesionales de NLP y los equipos de ML, esto implica la necesidad de auditorías de diagnóstico más amplias ante cualquier cambio en los datos de entrenamiento, y de revisar qué se considera un debiasing exitoso.