deepvk frente a OpenAI: un benchmark con sentencias judiciales

En un corpus de 858 resoluciones del Tribunal de Derechos de Propiedad Intelectual, la deepvk USER2-base, un modelo local, obtuvo resultados casi al nivel de OpenAI text-embedding-3-large y Voyage. El autor probó 7 modelos de embeddings y 4 rerankers y concluyó que, para un RAG jurídico en ruso, la combinación USER2-base + jina-reranker-v3 parece la opción más práctica en calidad, coste e independencia de las API externas.

Procesado por IA desde Habr AI; editado por Hamidun News
deepvk frente a OpenAI: un benchmark con sentencias judiciales
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo

El modelo ruso de texto deepvk USER2-base obtuvo resultados casi comparables a los de OpenAI y Voyage en una prueba con un corpus de documentos judiciales.

¿Hace falta una API cara para un RAG jurídico?

Para un RAG jurídico muy acotado no siempre hace falta una API cara: un modelo local puede ofrecer resultados comparables.

¿Influye el reranker en la calidad de la búsqueda en resoluciones judiciales?

La utilidad del reranker depende de la solidez del modelo base; no es una herramienta universal.

¿Qué modelos se compararon en la prueba?

Se probaron deepvk USER2-base, OpenAI y Voyage con un corpus de 858 resoluciones del Tribunal de Derechos de Propiedad Intelectual.

¿Con qué documentos se hizo el benchmark?

Con un corpus de 858 resoluciones del Tribunal de Derechos de Propiedad Intelectual y los textos de la parte cuarta del Código Civil de la Federación de Rusia.

Historia

Preguntas frecuentes sobre la noticia

¿Hace falta una API cara para un RAG jurídico?

Para un RAG jurídico muy acotado no siempre hace falta una API cara: un modelo local puede ofrecer resultados comparables.

¿Influye el reranker en la calidad de la búsqueda en resoluciones judiciales?

La utilidad del reranker depende de la solidez del modelo base; no es una herramienta universal.

¿Qué modelos se compararon en la prueba?

Se probaron deepvk USER2-base, OpenAI y Voyage con un corpus de 858 resoluciones del Tribunal de Derechos de Propiedad Intelectual.

¿Con qué documentos se hizo el benchmark?

Con un corpus de 858 resoluciones del Tribunal de Derechos de Propiedad Intelectual y los textos de la parte cuarta del Código Civil de la Federación de Rusia.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…