IBM lança o Granite Embedding R2, modelo multilíngue para busca semântica

A IBM apresentou o Granite Embedding Multilingual R2, um modelo multilíngue aberto para busca semântica sob licença Apache 2.0. Nos benchmarks mais populares, ele lidera a categoria de modelos com menos de 100 milhões de parâmetros.

O que é esse modelo

Modelos de embedding transformam texto em vetores: conjuntos de números que guardam informações sobre o significado do texto. Eles são a base dos sistemas RAG (Retrieval Augmented Generation): primeiro, o modelo encontra documentos relevantes em uma base; depois, um grande modelo generativo cria a resposta a partir dessas informações.

O Granite R2 suporta contexto de 32 mil tokens, quatro vezes mais que os modelos de embedding padrão. Isso significa que o modelo pode analisar ao mesmo tempo capítulos inteiros e documentos completos, encontrando neles a informação necessária para a busca.

Especificações técnicas

O modelo foi treinado com dados de mais de 30 idiomas, mas funciona como uma única rede universal, sem adaptadores especiais. Em testes no MTEB e em outros benchmarks padrão, o R2 apresenta o melhor desempenho entre todos os modelos da sua categoria de peso.

O ponto central é a compactação. Menos de 100 milhões de parâmetros significam que o modelo roda em hardware simples: um notebook de desenvolvedor, uma GPU leve ou até uma CPU bastam:

• Mais de 30 idiomas em um só modelo
• 32K tokens de contexto, em vez dos 8K típicos
• Menos de 100M de parâmetros: rápido em hardware comum
• Licença Apache 2.0: uso comercial permitido

Para que serve

Antes, a escolha era simples: modelos abertos e leves de qualidade mediana, ou APIs fechadas na nuvem, que exigem internet e dinheiro. O Granite R2 quebra esse padrão.

Para as empresas, significa controle total sobre os dados: tudo roda localmente, sem nuvem. Para startups, integração simples e escala mais barata. Sem depender de cotas do provedor e sem latência de requisições de rede.

"O desenvolvimento aberto significa que a comunidade pode melhorar o

modelo e adaptá-lo a idiomas e domínios específicos."

O que isso significa

Os modelos de embedding multilíngues chegaram a um nível de maturidade em que são práticos para projetos reais. Para quem desenvolve sistemas RAG, isso significa menos dependência das gigantes da nuvem e mais flexibilidade na integração. A indústria vem migrando aos poucos das APIs na nuvem para soluções locais.