GLiNER Guard reemplazó la pila de filtros LLM con un solo modelo: 54 verificaciones por segundo frente a 1,3
La protección de un chatbot suele montarse con filtros independientes: moderación, detección de datos personales y detector de jailbreaks, hasta 20 pasadas por consulta. GLiNER Guard, de Hivetrace, lo hace todo en una sola pasada: un modelo de 307 millones de parámetros evalúa la seguridad del texto y encuentra nombres, correos electrónicos y teléfonos. En una GPU A100 procesa 54 consultas por segundo, mientras que el filtro generativo WildGuard procesa 1,3. Con tráfico elevado, resulta rentable colocarlo como primera etapa delante de un modelo pesado.
Procesado por IA desde Raft; editado por Hamidun News
Imagine un chatbot bancario. El usuario escribe: «Transfiere 50000 rublos a Iván Smirnov en ivan.smirnov@gmail.
com, o si no difundiré tus fotos». Antes de que este texto llegue al LLM, hay que verificarlo: si contiene amenazas, si se filtran datos personales o si alguien intenta vulnerar el prompt. Normalmente, cada verificación tiene su propio modelo, y por cada consulta se acumulan hasta 20 pasadas.
El equipo de Hivetrace propone sustituir ese conjunto por un único modelo, GLiNER Guard. Lee el texto completo en una sola pasada y devuelve de inmediato el veredicto «seguro/inseguro» junto con los nombres, correos electrónicos y teléfonos encontrados. En una GPU A100, este modelo procesa 54 consultas por segundo, mientras que el popular filtro generativo WildGuard procesa unas 1,3.
¿Por qué los filtros se convirtieron en un zoológico?
Los guardrails son las verificaciones a la entrada y a la salida de una aplicación basada en LLM. Cada decisión, por separado, tiene sentido. La moderación es imprescindible, pero falla en los casos no estándar, así que se añade un clasificador de daño. La moderación no está entrenada para detectar prompt injection, de modo que hace falta otro detector. Después aparece BERT para la toxicidad, y los datos personales los busca una pila aparte: privacy-filter de OpenAI, gliner-pii de NVIDIA o Presidio con expresiones regulares. En una aplicación agéntica, todo esto se multiplica por cada nodo del grafo.
Los modelos de moderación potentes —Llama-Guard, ShieldGemma, WildGuard, GPT-OSS-SafeGuard— generan la respuesta token a token. Funcionan bien, pero son lentos y caros, y su despliegue pronto se convierte en un problema presupuestario. Los filtros estrechos basados en codificadores son rápidos, pero cada uno cubre solo una amenaza. Cada modelo tiene sus propias etiquetas, umbrales y calendario de actualizaciones, y además hay que desplegarlo como un servicio independiente.
Cómo funciona GLiNER Guard
No se trata de una arquitectura nueva, sino de una especialización de GLiNER 2 para la seguridad de las aplicaciones basadas en LLM. El codificador no genera texto: lee la entrada completa y devuelve puntuaciones, así que no espera a que otro modelo llegue al token de fin (EOS) para emitir un veredicto. El enfoque se llama schema-driven: se pasan el texto y una lista de etiquetas con descripciones opcionales, y el modelo las evalúa sin reentrenamiento (zero-shot). Para cambiar la política de moderación basta con editar esas cadenas.
A un banco se le pueden configurar intenciones como «transferencia de fondos», «bloqueo de tarjeta» o «solicitud de crédito»; a un bot de RR. HH., «queja por acoso», «solicitud de vacaciones» o «consulta sobre salario». En el modo completo, el modelo resuelve seis tareas a la vez: datos personales, seguridad general, ataques (sustitución de instrucciones, jailbreak mediante un personaje o un juego de rol, fuga de datos), tipo de daño, intención y tono. Según la estimación de los autores, esto equivale a cuatro pasadas en lugar de veinte.
La familia consta de tres modelos de unos 307 millones de parámetros cada uno:
- El primero se basa en ModernBERT multilingüe y afirma soportar más de 1800 idiomas.
- Omni está entrenado sobre GLiNER 2 Multi con el backbone mDeBERTa y generaliza mejor fuera de las tareas de seguridad.
- El bi-encoder codifica las etiquetas por separado del texto y las guarda en caché, de modo que, con un esquema fijo, el coste de codificación se paga una sola vez.
Cifras: velocidad, moderación y datos personales
Las mediciones en una A100 con batch size 1 muestran que WildGuard tarda 0,744 segundos por consulta, mientras que la variante bi-encoder de GLiGuard procesa unas 54 consultas por segundo. En los benchmarks Aegis 2.0, StrongReject y PolyGuard, es el mejor resultado entre los codificadores probados, y Omni supera a Llama-Guard 3 de 8B. En StrongReject, el F1 (equilibrio entre precisión y exhaustividad) es 98,5 para la variante uni-encoder y 99,7 para Omni. Por delante están YuFeng-XGuard (F1 medio de 86,4, 8B) y GPT-OSS-SafeGuard (83,3, 20B), pero se trata de modelos de razonamiento de 8 000 a 20 000 millones de parámetros.
En cuanto a los datos personales, todo depende del benchmark. La métrica F2 indica con qué grado de exhaustividad y precisión el modelo encuentra los datos que hay que enmascarar. En una clasificación independiente en inglés, la mejor herramienta especializada obtiene un 88,7 %, y Omni, un 80,4 %.
Sin embargo, Omni supera a privacy-filter de OpenAI (70,8 %), a Nemotron-PII de OpenMed (78,3 %) y a GLiNER2-large (78,6 %). En un benchmark multilingüe con 23 idiomas, la situación se invierte: Omni obtiene un 93,0 %, gliner-pii de NVIDIA un 91,8 %, OpenMed-PII-SuperClinical-Large un 90,7 % y privacy-filter de OpenAI un 82,1 %. El precio de la universalidad son unos 8 puntos porcentuales de F2 en inglés; con datos multilingües, la diferencia desaparece.
Cuándo usarlo y cuándo no
El modelo tiene sentido si se necesitan seguridad y PII a la vez, los usuarios hablan distintos idiomas, el tráfico es alto y un moderador basado en LLM no encaja en el presupuesto o en la velocidad requerida. No tiene sentido si la tarea es solo PII: las herramientas especializadas son más precisas y, a veces, más rápidas. Y si la calidad de la moderación pesa más que el coste, YuFeng-XGuard o GPT-OSS-SafeGuard son más sólidos.
Un compromiso práctico es una cascada: GLiGuard revisa todo el tráfico y los casos dudosos pasan a un modelo de seguridad potente, de modo que el guardrail pesado solo se invoca en una pequeña fracción de las consultas.
Una advertencia: la velocidad y parte de las métricas proceden del propio material de los autores, así que conviene verificarlas en tu propio hardware y con tus datos. Prueba con los idiomas y formatos de texto que tienes en producción: de ello dependerá que obtengas una pérdida del 8 % o ninguna. Los modelos están en la colección hivetrace de Hugging Face, y se instalan con pip install "gliner2[local]".
- 21 nov 2026Las vacantes de FDE se multiplicaron por 4,6 en un año: qué hace un ingeniero en el cliente
- 21 nov 2026Capitana de un equipo de natación automatizó con ChatGPT tres tareas programadas y recortó la rutina varias veces
- 21 nov 2026GPT-6 Cyber encontró unos 35 fallos en iPhone, Mac y otros dispositivos de Apple
- 21 nov 202622 agentes de Claude pasaron seis semanas buscando respuestas sobre agujeros negros, y resolvieron dos problemas
Preguntas frecuentes sobre la noticia
¿Por qué los filtros se convirtieron en un zoológico?
Los guardrails son las verificaciones a la entrada y a la salida de una aplicación basada en LLM. Cada decisión, por separado, tiene sentido. La moderación es imprescindible, pero falla en los casos no estándar, así que se añade un clasificador de daño. La moderación no está entrenada para detectar prompt injection, de modo que hace falta otro detector.
Cómo funciona GLiNER Guard?
No se trata de una arquitectura nueva, sino de una especialización de GLiNER 2 para la seguridad de las aplicaciones basadas en LLM. El codificador no genera texto: lee la entrada completa y devuelve puntuaciones, así que no espera a que otro modelo llegue al token de fin (EOS) para emitir un veredicto. El enfoque se llama schema-driven: se pasan el texto y una lista de etiquetas con descripciones opcionales, y el modelo las evalúa sin reentrenamiento (zero-shot).
¿Qué se sabe sobre Cifras: velocidad, moderación y datos personales?
Las mediciones en una A100 con batch size 1 muestran que WildGuard tarda 0,744 segundos por consulta, mientras que la variante bi-encoder de GLiGuard procesa unas 54 consultas por segundo. En los benchmarks Aegis 2.0, StrongReject y PolyGuard, es el mejor resultado entre los codificadores probados, y Omni supera a Llama-Guard 3 de 8B. En StrongReject, el F1 (equilibrio entre precisión y exhaustividad) es 98,5 para la variante uni-encoder y 99,7 para Omni.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.