Qdrant comprime una página de PDF a 64 bytes en memoria y conserva el 99,2% de la calidad de búsqueda
Los PDF con tablas y gráficos suelen buscarse mediante OCR, que pierde las relaciones dentro de la página, o mediante ColPali, con miles de vectores por página. Qdrant demuestra que basta un único vector por imagen con Cohere Embed 5 Pro: en memoria quedan 64 bytes en lugar de 8 KB, y las 20 mejores páginas se vuelven a comprobar con los vectores completos desde disco. La calidad de búsqueda alcanza el 99,2% de la versión completa. Para archivos grandes de PDF, es una forma de prescindir del OCR sin disparar el consumo de RAM.
Procesado por IA desde Qdrant Blog; editado por Hamidun News
Imagine un archivo de 10 millones de páginas de PDF con informes, manuales y tablas, en el que hay que buscar respuestas a preguntas concretas. Si las páginas se guardan como vectores (conjuntos de números con los que la base de datos compara el significado), la memoria necesaria para la búsqueda se convierte rápidamente en la principal partida de costes. El equipo de Qdrant ha publicado una receta para reducir cada página a 64 bytes de memoria RAM en lugar de 8 KB, conservando el 99,2% de la calidad de búsqueda del vector completo.
Aquí, el 100% es la puntuación media nDCG@10 de 65,85. Esta métrica indica con qué frecuencia las páginas relevantes aparecen en lo alto de los resultados. Como referencia, 8 KB corresponden a un vector de 2048 números en formato float32, y 64 bytes son ese mismo vector comprimido 128 veces.
¿Por qué usar un solo vector por página?
Las respuestas dentro de los PDF suelen estar en gráficos, tablas y diagramas. La vía clásica es el OCR, es decir, convertir la imagen en texto. Ese proceso puede perder las relaciones entre las palabras; por ejemplo, qué cifra corresponde a qué columna de una tabla.
Para buscar sin OCR, Qdrant suele recomendar modelos de interacción tardía como ColPali y ColQwen. Guardan un vector independiente para cada pequeño fragmento de la imagen, y cada palabra de la consulta se compara con el fragmento más adecuado. Es preciso, pero implica unos mil vectores por página. La medida de similitud MaxSim no funciona bien con un índice HNSW convencional, así que con miles de millones de puntos hay que recurrir a soluciones alternativas como MUVERA.
Lo ideal es un vector normal por página. Los ingenieros no esperaban que este esquema compitiera con los demás, pero lo probaron por curiosidad con los modelos Cohere Embed 5. La familia tiene dos modelos: Pro, de mayor calidad, y Fast, más ligero. Ambos aceptan texto e imágenes, dominan más de 100 idiomas y utilizan un espacio vectorial común. Cohere evaluó los modelos en el benchmark ViDoRe V3 con texto reconocido por OCR, mientras que Qdrant envió a Embed 5 Pro las imágenes de las páginas directamente.
La prueba se realizó sobre cinco conjuntos en inglés de ViDoRe V3: libros de texto de informática, informes financieros, documentos de la UE sobre el mercado laboral, instrucciones técnicas de la Fuerza Aérea de EE. UU. y documentos de la FDA. En total, 12 969 páginas y 1 489 preguntas. Embed 5 Pro, con un solo vector por página, superó a varios modelos de interacción tardía.
Cómo una página llega a 64 bytes
La receta combina tres técnicas:
- Representación tipo muñeca rusa (MRL). Los primeros N números del vector contienen el significado principal, así que es posible conservar los primeros 512 de los 2048.
- Cuantización binaria. Para cada número se guarda un solo bit: si es mayor que cero o no. 512 bits equivalen a 64 bytes por página.
- Cuantización asimétrica. Las páginas se almacenan con un bit por dimensión, mientras que la consulta conserva 8 bits. Si se binarizan tanto la página como la consulta, cada dimensión vota igual aunque su valor sea apenas superior a cero. Con una consulta precisa, las dimensiones fuertes pesan más.
Cuanto más corto es el vector almacenado, más ayuda la consulta precisa. Tras la búsqueda aproximada, las 20 mejores candidatas se verifican con los vectores completos, que están en disco, mientras que en RAM solo permanecen las copias compactas. El resultado: un 99,2% de la calidad del vector completo y 128 veces menos memoria.
En una estimación para 10 millones de páginas, los vectores sin comprimir de ColPali ocupan unos 4,8 TB, los vectores completos de Embed 5 unos 76 GB, y los vectores de búsqueda según la receta unos 610 MB en RAM. Además, unos 95 GB de vectores completos y reducidos se quedan en disco.
Salvedades y el extra de Rerank 5
Conviene leer estas cifras con cautela. No se han publicado los datos de entrenamiento de Embed 5, así que no puede descartarse que el modelo ya haya visto estos corpus. Las pruebas se hicieron en inglés, y cinco conjuntos no equivalen a sus propios documentos. El cálculo de memoria solo incluye los bytes de los vectores, sin el índice ni los metadatos. La lectura desde disco ralentiza la búsqueda, y los vectores leídos acaban ocupando, con el tiempo, la RAM libre de la caché del sistema operativo. Por último, son mediciones de una empresa que vende una base de datos vectorial.
Al final, Qdrant evaluó Cohere Rerank 5, que salió durante la preparación de la publicación. Trabaja con texto, no con imágenes, por lo que resulta útil para quienes ya emplean OCR. Los textos de ViDoRe V3 se indexaron con Embed 5 Pro, y Rerank 5 Pro reordenó las 20 mejores páginas. La puntuación media nDCG@10 pasó de 66,8 a 73,2, y con el esquema de 64 bytes de Qdrant, de 66,2 a 71,7.
La conclusión práctica: si su archivo está formado por informes, manuales y presentaciones con maquetación compleja, pruebe Embed 5 Pro con una muestra pequeña de sus propios PDF y compárelo con el flujo de OCR actual. Si la calidad es similar, el ahorro de RAM a gran escala será notable. Además, Qdrant Cloud acepta la imagen de la página en base64 y llama a Cohere por sí mismo, así que no hace falta un paso separado de embeddings en el código.
- 19 nov 2026papr-embed-code-1 localiza código con 3 p. p. más de precisión que Qwen3, y su vector se comprime 31 veces
- 27 oct 2026Un vector por documento de 32K tokens encuentra un detalle en el 30 % de los casos; los fragmentos, en el 56 %
- 13 oct 2026Perplexity lanza dos modelos late interaction para buscar en páginas de PDF sin OCR
- 27 oct 2026Qdrant comprime los vectores 8 veces con una pérdida de recall de solo 1–2 pp
Preguntas frecuentes sobre la noticia
¿Por qué usar un solo vector por página?
Las respuestas dentro de los PDF suelen estar en gráficos, tablas y diagramas. La vía clásica es el OCR, es decir, convertir la imagen en texto. Ese proceso puede perder las relaciones entre las palabras; por ejemplo, qué cifra corresponde a qué columna de una tabla. Para buscar sin OCR, Qdrant suele recomendar modelos de interacción tardía como ColPali y ColQwen. Guardan un vector independiente para cada pequeño fragmento de la imagen, y cada palabra de la consulta se compara con el fragmento más adecuado.
Cómo una página llega a 64 bytes?
La receta combina tres técnicas: Representación tipo muñeca rusa (MRL). Los primeros N números del vector contienen el significado principal, así que es posible conservar los primeros 512 de los 2048. Cuantización binaria. Para cada número se guarda un solo bit: si es mayor que cero o no. 512 bits equivalen a 64 bytes por página. Cuantización asimétrica. Las páginas se almacenan con un bit por dimensión, mientras que la consulta conserva 8 bits.
¿Qué se sabe sobre Salvedades y el extra de Rerank 5?
Conviene leer estas cifras con cautela. No se han publicado los datos de entrenamiento de Embed 5, así que no puede descartarse que el modelo ya haya visto estos corpus. Las pruebas se hicieron en inglés, y cinco conjuntos no equivalen a sus propios documentos. El cálculo de memoria solo incluye los bytes de los vectores, sin el índice ni los metadatos. La lectura desde disco ralentiza la búsqueda, y los vectores leídos acaban ocupando, con el tiempo, la RAM libre de la caché del sistema operativo.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.