GLiNER Guard remplace la pile de filtres LLM par un seul modèle : 54 vérifications par seconde contre 1,3
La protection d'un chatbot est souvent assemblée à partir de filtres distincts : modération, recherche de données personnelles, détecteur de jailbreaks, soit jusqu'à 20 passes par requête. GLiNER Guard, développé par Hivetrace, fait tout en une seule passe : le modèle de 307 millions de paramètres évalue lui-même la sécurité du texte et détecte les noms, emails et numéros de téléphone. Sur une carte A100, il traite 54 requêtes par seconde, contre 1,3 pour le filtre génératif WildGuard. Avec un trafic important, il est donc intéressant de le placer en première étape, devant un modèle plus lourd.
Traité par IA depuis Raft ; édité par Hamidun News
Imaginez un chatbot bancaire. L'utilisateur écrit : « Vire 50000 roubles à Ivan Smirnov sur ivan.smirnov@gmail.
com, sinon je balance tes photos ». Avant que ce message n'atteigne le LLM, il faut le vérifier : y a-t-il une menace, des données personnelles fuient-elles, quelqu'un tente-t-il de détourner le prompt ? D'ordinaire, chaque contrôle s'appuie sur son propre modèle, et une seule requête peut déclencher jusqu'à 20 passes.
L'équipe Hivetrace propose de remplacer cet ensemble par un seul modèle, GLiNER Guard. Il lit le texte en entier en une passe et renvoie immédiatement un verdict « sûr/dangereux », ainsi que les noms, emails et numéros de téléphone trouvés. Sur une carte A100, ce modèle traite 54 requêtes par seconde, contre environ 1,3 pour WildGuard, un filtre génératif très utilisé.
Pourquoi les filtres sont devenus un zoo
Les garde-fous sont les contrôles appliqués à l'entrée et à la sortie d'une application LLM. Chaque décision, prise isolément, se défend. La modération est indispensable, mais elle rate les cas atypiques, on ajoute donc un classifieur de nocivité. La modération n'est pas entraînée à repérer les prompt injections, il faut donc un détecteur supplémentaire. Viennent ensuite un BERT pour la toxicité, puis une pile distincte pour les données personnelles : privacy-filter d'OpenAI, gliner-pii de NVIDIA ou Presidio avec des expressions régulières. Dans une application agentique, tout cela se multiplie par chaque nœud du graphe.
Les modèles de modération performants (Llama-Guard, ShieldGemma, WildGuard, GPT-OSS-SafeGuard) génèrent leur réponse token par token. Ils fonctionnent bien, mais restent lents et coûteux, et leur déploiement devient vite un problème budgétaire. Les filtres encodeurs spécialisés sont rapides, mais chacun ne couvre qu'une menace. Chaque modèle a ses propres labels, ses seuils et son calendrier de mises à jour, et il faut encore le déployer comme un service à part.
Comment fonctionne GLiNER Guard
Il ne s'agit pas d'une nouvelle architecture, mais d'une spécialisation de GLiNER 2 pour la sécurité des applications LLM. L'encodeur n'écrit pas de texte : il lit l'entrée en entier et produit des scores, si bien qu'il n'attend pas qu'un autre modèle atteigne le token de fin (EOS) pour rendre son verdict. L'approche est dite schema-driven : vous fournissez le texte et une liste de labels, assortis de descriptions facultatives, que le modèle évalue sans réentraînement (zero-shot). Pour modifier la politique de modération, il suffit de modifier ces chaînes.
À une banque, on peut définir les intentions « virement », « blocage de carte », « demande de crédit » ; à un bot RH, « plainte pour harcèlement », « demande de congé », « question sur le salaire ». En mode complet, le modèle traite six tâches simultanément : données personnelles, sécurité générale, attaques (substitution d'instructions, jailbreak par persona ou jeu de rôle, fuite de données), type de nocivité, intention et tonalité. Selon l'auteur, cela représente quatre passes au lieu de vingt.
La famille compte trois modèles, d'environ 307 millions de paramètres chacun :
- Le premier est construit sur ModernBERT multilingue et revendique la prise en charge de plus de 1800 langues.
- Omni est entraîné à partir de GLiNER 2 Multi, avec un backbone mDeBERTa, et généralise mieux en dehors des tâches de sécurité.
- Le bi-encoder encode les labels séparément du texte et les met en cache : avec un schéma fixe, le coût d'encodage n'est payé qu'une fois.
Les chiffres : vitesse, modération, données personnelles
Mesures sur A100 avec un batch size de 1 : WildGuard consacre 0,744 seconde par requête, la variante bi-encoder de GLiGuard environ 54 requêtes par seconde. Sur les benchmarks Aegis 2.0, StrongReject et PolyGuard, c'est le meilleur résultat parmi les encodeurs testés, et Omni devance Llama-Guard 3 8B. Sur StrongReject, le F1 (équilibre entre précision et rappel) atteint 98,5 pour la variante uni-encoder et 99,7 pour Omni. Les leaders restent devant : YuFeng-XGuard (F1 moyen de 86,4, 8B) et GPT-OSS-SafeGuard (83,3, 20B), mais il s'agit de modèles de raisonnement de 8 à 20 milliards de paramètres.
Pour les données personnelles, tout dépend du benchmark. La métrique F2 mesure à quel point le modèle trouve complètement et précisément les données à masquer. Sur un leaderboard anglophone indépendant, le meilleur modèle spécialisé obtient 88,7 %, Omni 80,4 %. Mais Omni devance privacy-filter d'OpenAI (70,8 %), Nemotron-PII d'OpenMed (78,3 %) et GLiNER2-large (78,6 %). Sur un benchmark multilingue couvrant 23 langues, la situation s'inverse : Omni atteint 93,0 %, gliner-pii de NVIDIA 91,8 %, OpenMed-PII-SuperClinical-Large 90,7 %, privacy-filter d'OpenAI 82,1 %. Le prix de l'universalité représente environ 8 points de F2 en anglais, tandis que sur les données multilingues l'écart disparaît.
Quand le choisir, et quand s'en passer
Le modèle convient si vous avez besoin de sécurité et de PII ensemble, si vos utilisateurs parlent plusieurs langues, si le trafic est élevé et si un modérateur LLM ne tient ni le budget ni la cadence. Il ne convient pas si la seule tâche est la détection de PII : les modèles spécialisés sont plus précis et parfois plus rapides. Et si la qualité de modération prime sur le coût, YuFeng-XGuard ou GPT-OSS-SafeGuard restent plus solides.
Le compromis pragmatique est la cascade : GLiGuard contrôle l'ensemble du trafic, et les cas douteux sont transmis à un modèle plus puissant, de sorte que le garde lourd n'est sollicité que pour une petite part des requêtes.
Réserve : la vitesse et une partie des métriques proviennent des auteurs eux-mêmes, il est donc prudent de les revérifier sur votre matériel et vos données. Testez les langues et les formats de texte que vous utilisez réellement en production : c'est de là que dépend un recul de 8 points, voire rien du tout. Les modèles sont disponibles dans la collection hivetrace sur Hugging Face et s'installent avec la commande pip install "gliner2[local]".
- 21 nov. 2026Les offres FDE ont été multipliées par 4,6 en un an : ce que fait un ingénieur chez le client
- 21 nov. 2026La capitaine d'une équipe de nageurs a confié trois tâches planifiées à ChatGPT et divisé sa charge de travail par plusieurs
- 21 nov. 2026OpenAI GPT-6 Cyber a trouvé une trentaine de failles dans les iPhone, Mac et autres appareils Apple
- 21 nov. 202622 agents Claude ont cherché pendant six semaines des réponses sur les trous noirs — et ont résolu deux problèmes
Questions clés sur cet article
Pourquoi les filtres sont devenus un zoo?
Les garde-fous sont les contrôles appliqués à l'entrée et à la sortie d'une application LLM. Chaque décision, prise isolément, se défend. La modération est indispensable, mais elle rate les cas atypiques, on ajoute donc un classifieur de nocivité. La modération n'est pas entraînée à repérer les prompt injections, il faut donc un détecteur supplémentaire.
Comment fonctionne GLiNER Guard?
Il ne s'agit pas d'une nouvelle architecture, mais d'une spécialisation de GLiNER 2 pour la sécurité des applications LLM. L'encodeur n'écrit pas de texte : il lit l'entrée en entier et produit des scores, si bien qu'il n'attend pas qu'un autre modèle atteigne le token de fin (EOS) pour rendre son verdict. L'approche est dite schema-driven : vous fournissez le texte et une liste de labels, assortis de descriptions facultatives, que le modèle évalue sans réentraînement (zero-shot).
Que sait-on sur Les chiffres : vitesse, modération, données personnelles ?
Mesures sur A100 avec un batch size de 1 : WildGuard consacre 0,744 seconde par requête, la variante bi-encoder de GLiGuard environ 54 requêtes par seconde. Sur les benchmarks Aegis 2.0, StrongReject et PolyGuard, c'est le meilleur résultat parmi les encodeurs testés, et Omni devance Llama-Guard 3 8B. Sur StrongReject, le F1 (équilibre entre précision et rappel) atteint 98,5 pour la variante uni-encoder et 99,7 pour Omni.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.