GLiGuard de Fastino Labs: un modelo de seguridad 16x más rápido que competidores más grandes

Fastino Labs lanzó GLiGuard — un modelo compacto para moderar LLMs que es más rápido y preciso que enormes competidores. Tiene solo 300 millones de parámetros, y los resultados coinciden con modelos 90 veces más grandes.

Cuatro Tareas en Un Paso

GLiGuard resuelve cuatro tareas de seguridad críticas:

• Verificación de seguridad de prompts — detecta entradas potencialmente peligrosas
• Detección de jailbreak — encuentra intentos de eludir restricciones del modelo
• Clasificación de tipos de daño — determina qué tipo de daño podría ocurrir
• Detección de rechazo — verifica que el modelo rechazó correctamente responder

Los cuatro análisis ocurren en un único forward pass, proporcionando una velocidad de procesamiento fenomenal.

Codificador en Lugar de Decodificador

La mayoría de los modelos guardrail actuales utilizan arquitectura solo-decodificador, como los LLMs típicos. Fastino Labs tomó un camino diferente — construyó GLiGuard sobre una base de codificador. Esto redujo la latencia 16,6x e incrementó el throughput 16 veces, mientras que simultáneamente mantiene la precisión en nueve benchmarks de seguridad diferentes.

"Un codificador es inherentemente más adecuado para tareas de clasificación que la arquitectura solo-decodificador", demuestra la experiencia de

Fastino Labs.

Qué Significa Esto

La eficiencia se ha disparado literalmente. Anteriormente, necesitabas un modelo grande para verificar confiablemente la seguridad de LLM. Ahora puedes desplegar GLiGuard localmente, en dispositivos edge, en aplicaciones móviles. Esto cambia la economía de la IA: menores costos de cálculo, latencia reducida, mejor privacidad del usuario.