IBM lanza Granite Embedding R2, un modelo multilingüe para búsqueda semántica

IBM ha presentado Granite Embedding Multilingual R2, un modelo multilingüe abierto para búsqueda semántica con licencia Apache 2.0. En los benchmarks más conocidos, lidera la categoría de modelos de menos de 100 millones de parámetros.

Qué es este modelo

Los modelos de embeddings convierten el texto en vectores: conjuntos de números que almacenan información sobre su significado. Son la base de los sistemas RAG (Retrieval Augmented Generation): primero, el modelo localiza documentos relevantes en una base de datos y, después, un modelo generativo grande crea una respuesta a partir de esa información.

Granite R2 admite un contexto de 32.000 tokens, cuatro veces más que los modelos de embeddings estándar. Esto significa que puede analizar a la vez capítulos enteros y documentos completos para encontrar la información necesaria para la búsqueda.

Características técnicas

El modelo se entrenó con datos de más de 30 idiomas, pero funciona como una única red universal, sin adaptadores especiales. En MTEB y otros benchmarks estándar, R2 muestra el mejor rendimiento de todos los modelos de su categoría de peso.

Lo principal es la compacidad. Menos de 100 millones de parámetros implican que el modelo funciona con hardware modesto: basta un portátil de desarrollador, una GPU ligera o incluso una CPU:

• Más de 30 idiomas en un solo modelo
• 32K tokens de contexto en lugar de los 8K habituales
• Menos de 100M de parámetros: rápido en hardware estándar
• Licencia Apache 2.0: uso comercial permitido

Para qué sirve

Antes la elección era simple: modelos abiertos y ligeros de calidad mediocre, o API cerradas en la nube que exigen conexión a internet y dinero. Granite R2 rompe ese esquema.

Para las empresas, supone control total sobre los datos: todo funciona en local, sin nube. Para las startups, una integración sencilla y un escalado más barato. Sin depender de las cuotas del proveedor y sin latencia por peticiones de red.

«El desarrollo abierto significa que la comunidad puede mejorar el

modelo y adaptarlo a idiomas y dominios específicos».

Qué significa

Los modelos de embeddings multilingües han alcanzado un nivel de madurez que los hace cómodos de usar en proyectos reales. Para los desarrolladores de sistemas RAG, esto supone menos dependencia de los gigantes de la nube y más flexibilidad de integración. La industria avanza poco a poco de las API en la nube hacia soluciones locales.