emb-diversity: una herramienta para medir la diversidad de los datos a partir de embeddings

Investigadores del proyecto nlpsoc publicaron en julio de 2026 en arXiv un preprint y una herramienta abierta, emb-diversity: un conjunto de métricas que mide la diversidad de los datos de texto a partir de embeddings, y no solo por el vocabulario, y que funciona con cualquier modelo de embeddings.

Qué mide emb-diversity

emb-diversity evalúa cuatro tipos de diversidad de un conjunto de datos a la vez: estilística, semántica, lingüística y de hablantes. A diferencia de las métricas léxicas, que cuentan palabras y n-gramas únicos, la herramienta trabaja con vectores numéricos (embeddings). Por eso se puede aplicar a cualquier dato que sea posible vectorizar, no solo al texto.

La idea clave es la flexibilidad. Según los autores, las medidas basadas en embeddings funcionan con cualquier modelo de embeddings y con cualquier dato susceptible de vectorización, lo que las hace adecuadas para muchas interpretaciones del concepto de «diversidad».

• La herramienta es emb-diversity, de código abierto en GitHub (repositorio nlpsoc/emb-diversity)
• Funciona con cualquier modelo de embeddings y con cualquier dato que se pueda vectorizar
• Mide 4 tipos de diversidad: estilística, semántica, lingüística y de hablantes
• Se publicó como preprint en arXiv, en la sección cs.CL, versión v1, en julio de 2026
• Reúne en un solo paquete un amplio conjunto de medidas de diversidad

Por qué importa para el NLP

emb-diversity cubre un vacío concreto: la fragmentación de los métodos existentes. Como señalan los autores, ya hay muchas herramientas para medir la diversidad léxica de los textos, pero los investigadores no contaban hasta ahora con una forma estandarizada de calcular la diversidad a partir de embeddings.

La diversidad de los datos de entrenamiento influye directamente en la calidad de los modelos. Los autores del preprint se remiten a un volumen creciente de evidencias: cuanto más diversos son los datos, más justos y robustos resultan los modelos de NLP. Un conjunto de datos sesgado o unilateral produce sistemas parciales y frágiles, y sin una herramienta común de medición es difícil incluso detectar el problema.

«Cada vez hay más evidencias de que la diversidad de los datos es

crítica para crear modelos de NLP justos y robustos», según el resumen del preprint de emb-diversity en arXiv.

Cómo usar la herramienta

emb-diversity está disponible como código abierto en el repositorio nlpsoc/emb-diversity de GitHub y puede integrarse en el pipeline propio de preparación de datos. Los autores presentan varios escenarios: análisis de la diversidad estilística, semántica y lingüística y de la diversidad de hablantes en conjuntos de datos concretos.

Las métricas se construyen sobre embeddings, así que el desarrollador elige el modelo de embeddings que mejor se ajuste a su tarea, desde codificadores multilingües hasta modelos especializados de dominio. Esto permite medir no un único concepto fijo de «diversidad», sino el que importa en cada proyecto.

Qué significa

emb-diversity ofrece a los equipos una forma unificada de cuantificar cuán diverso es su conjunto de datos antes de entrenar el modelo. Para quienes lidian con el sesgo y la fragilidad de los sistemas, es un paso de diagnóstico barato antes de un entrenamiento caro.

Preguntas frecuentes

¿Qué es la diversidad de datos basada en embeddings?

Es la medición de la diversidad de un conjunto de datos mediante vectores numéricos (embeddings), y no contando palabras únicas. El enfoque funciona con cualquier modelo de embeddings y con cualquier dato que se pueda vectorizar, por lo que abarca a la vez el estilo, el significado, el idioma y otras propiedades.

¿Dónde se descarga emb-diversity?

La herramienta está disponible en abierto en GitHub, en el repositorio nlpsoc/emb-diversity. Es un paquete de investigación asociado al preprint de arXiv (sección cs.CL) y se puede obtener de forma gratuita.