IBM lance Granite Embedding R2, un modèle multilingue pour la recherche sémantique

IBM a présenté Granite Embedding Multilingual R2, un modèle multilingue ouvert pour la recherche sémantique, sous licence Apache 2.0. Sur les benchmarks courants, il domine la catégorie des modèles de moins de 100 millions de paramètres.

De quel modèle s'agit-il

Les modèles d'embeddings transforment le texte en vecteurs : des ensembles de nombres qui encodent le sens du texte. Ils sont au cœur des systèmes RAG (Retrieval Augmented Generation) : le modèle commence par trouver les documents pertinents dans une base, puis un grand modèle génératif produit une réponse à partir de ces informations.

Granite R2 gère un contexte de 32 000 tokens, soit quatre fois plus que les modèles d'embeddings standard. Le modèle peut donc analyser simultanément des chapitres entiers et des documents complets pour y retrouver l'information utile à la recherche.

Caractéristiques techniques

Le modèle a été entraîné sur des données de plus de 30 langues, mais fonctionne comme un réseau universel unique, sans adaptateurs spécifiques. Sur MTEB et d'autres benchmarks standard, R2 affiche les meilleures performances de tous les modèles de sa catégorie de poids.

L'atout principal, c'est la compacité. Moins de 100 millions de paramètres, cela veut dire que le modèle tourne sur du matériel modeste : un ordinateur portable de développeur, un GPU léger, voire un simple CPU suffisent :

• Plus de 30 langues dans un seul modèle
• 32K tokens de contexte au lieu des 8K habituels
• Moins de 100M de paramètres : rapide sur du matériel standard
• Licence Apache 2.0 : usage commercial autorisé

À quoi ça sert

Jusqu'ici, le choix était simple : des modèles ouverts et légers de qualité médiocre, ou des API cloud fermées, qui exigent une connexion internet et un budget. Granite R2 brise ce schéma.

Pour les entreprises, c'est un contrôle total sur les données : tout fonctionne en local, sans cloud. Pour les start-up, une intégration simple et un passage à l'échelle moins coûteux. Aucune dépendance aux quotas du fournisseur, aucune latence liée aux requêtes réseau.

«

Le développement ouvert signifie que la communauté peut améliorer le modèle et l'adapter à des langues et des domaines spécifiques. »

Ce que cela change

Les modèles d'embeddings multilingues ont atteint un niveau de maturité qui les rend pratiques à utiliser dans des projets réels. Pour les développeurs de systèmes RAG, cela signifie moins de dépendance aux géants du cloud et plus de souplesse d'intégration. L'industrie glisse peu à peu des API cloud vers des solutions locales.