NVIDIA presenta NeMo Retriever, una búsqueda agéntica para datos empresariales complejos

NVIDIA ha presentado un nuevo pipeline agéntico para NeMo Retriever, un sistema de búsqueda que no se limita a comparar la similitud semántica. En lugar de lanzar una sola consulta, ejecuta un ciclo de búsqueda, evaluación de resultados intermedios y ajuste de la estrategia, lo que permitió a la solución alcanzar el primer puesto en la clasificación de ViDoRe v3 y el segundo en BRIGHT.

Por qué una sola búsqueda no basta

La recuperación densa clásica funciona bien cuando basta con encontrar documentos parecidos a la consulta en significado. En escenarios empresariales, eso suele quedarse corto: los documentos pueden ser visualmente complejos, las consultas compuestas y las respuestas estar repartidas entre varias fuentes. En estas tareas no basta con coincidir en los embeddings: hace falta descomponer la pregunta en partes, comprobar hipótesis y cambiar varias veces el rumbo de la búsqueda.

NVIDIA describe esto como una brecha entre dos tipos de sistemas. Los recuperadores pueden examinar rápidamente enormes volúmenes de datos, pero apenas razonan. Los grandes modelos de lenguaje saben planificar y sacar conclusiones lógicas, pero no pueden procesar millones de documentos de golpe. La recuperación agéntica pretende cerrar esa brecha combinando ambos enfoques en un único ciclo.

Cómo funciona el ciclo

El pipeline se basa en la arquitectura ReACT. El agente no recibe la tarea en formato «una consulta, un resultado», sino que actúa paso a paso: piensa, llama a la herramienta retrieve(query, top_k), analiza lo encontrado y decide qué hacer después. La respuesta final se ensambla mediante una herramienta aparte, final_results, que devuelve una lista de los documentos más relevantes.

Según el equipo, en el proceso surgieron de forma natural varios patrones útiles:

• generación de consultas más precisas a medida que aparecen nuevos datos;
• reformulación constante hasta que el sistema encuentra una señal útil;
• división de una pregunta compleja en varias subtareas simples;
• reordenación de los documentos encontrados antes de la selección final.

Si el agente alcanza el límite de pasos o la longitud del contexto, el pipeline no se corta a ciegas. Como red de seguridad se usa Reciprocal Rank Fusion: los documentos reciben una puntuación final basada en sus posiciones en distintos intentos de búsqueda, y el sistema devuelve igualmente un conjunto de resultados con sentido.

Dónde ganó el pipeline

El resultado principal no es solo el puesto en la clasificación, sino la versatilidad. El mismo pipeline, sin cambiar la arquitectura base, logró el primer puesto en ViDoRe v3 con un NDCG@10 de 69,22 y el segundo en BRIGHT con un NDCG@10 de 50,90. El primer benchmark es relevante para documentos empresariales visualmente ricos y variados; el segundo, para tareas que exigen más razonamiento en varios pasos.

Los autores compararon por separado su enfoque con soluciones más especializadas. Por ejemplo, INF-X-Retriever lidera BRIGHT con 63,40, pero en ViDoRe v3, en la misma configuración con nemotron-colembed-vl-8b-v2, obtuvo 62,31, incluso menos que la recuperación densa convencional con el mismo modelo de embeddings, que logró 64,36. NVIDIA usa esta comparación como argumento a favor de un enfoque generalizable: el ciclo agéntico se traslada mejor entre distintos tipos de tareas que los pipelines ajustados a un solo benchmark.

También llama la atención que el equipo rehízo la infraestructura para ganar velocidad. Primero el recuperador se movió a un servidor MCP, lo que tiene sentido para dar a un LLM acceso a herramientas externas. Pero en la práctica añadía llamadas de red superfluas, un proceso aparte, riesgo de errores de configuración silenciosos y caídas bajo carga. Al final, el esquema MCP se sustituyó por un recuperador singleton seguro para hilos dentro del propio proceso: el modelo y los embeddings se cargan una vez, el acceso se sincroniza mediante un lock y la interfaz retrieve() sigue igual. Esto eliminó toda una clase de problemas operativos y aceleró los experimentos.

El precio de la búsqueda autónoma

NVIDIA afirma sin rodeos que esta calidad tiene un coste. La recuperación agéntica es notablemente más lenta y cara que la recuperación densa normal. En ViDoRe v3, una consulta tardaba de media 136,3 segundos, requería unos 760 mil tokens de entrada y 6,3 mil de salida, y el agente hacía de media 9,2 llamadas de búsqueda. Para tareas en tiempo real es un perfil pesado, sobre todo con cargas masivas.

El equipo también comparó modelos cerrados y abiertos. En ViDoRe v3, la combinación con Opus 4.5 resultó la mejor, pero el cambio al modelo de pesos abiertos gpt-oss-120b supuso solo una caída moderada de calidad, de 69,22 a 66,38. En BRIGHT la brecha fue mayor, lo que indica que las tareas de razonamiento complejo dependen de modelos frontier más potentes.

El siguiente paso de NVIDIA es intentar trasladar estos patrones agénticos a modelos abiertos especializados más compactos, para reducir el coste y la latencia sin una gran pérdida de calidad.

Qué significa

La búsqueda sobre datos empresariales se aleja rápidamente del esquema «introduzco una consulta y recibo documentos similares». NVIDIA muestra que el siguiente nivel es un agente capaz de buscar de forma iterativa, cambiar de táctica y combinar razonamiento con recuperación. Por ahora este enfoque es caro y lento, pero para escenarios complejos de alto riesgo ya parece una arquitectura que funciona, y no un experimento de laboratorio.