SIFT: самообучающийся классификатор документов, который переобучается без человека

Des chercheurs ont présenté SIFT (Self-Improving, Frozen-gate Training) — un service de classification de documents qui se réentraîne lui-même sur du trafic réel et se réentraîne sans intervention humaine ; le préprint a été publié sur arXiv en juillet 2026.

Comment fonctionne le pipeline bon marché

SIFT assure la classification avec un pipeline CPU volontairement bon marché : l'encodeur creux SPLADE fournit des caractéristiques à un modèle LightGBM, et seule une minorité de pages à faible confiance est escaladée vers le coûteux juge LLM. Le système étiquette la majeure partie des documents sans recourir à un grand modèle de langage — d'où le faible coût d'inférence.

• Architecture : SPLADE (encodeur creux) → tête LightGBM, entièrement sur CPU
• Seule la minorité de pages à faible confiance est escaladée vers le juge LLM
• L'intégration d'un nouveau type de document se fait via un bundle déclaratif : espace des étiquettes, phrases-ancres (anchor phrases) et glossaire du juge
• Le réentraînement a lieu environ une fois par mois, automatiquement, sans humain
• Le coût marginal de l'étiquetage tend vers zéro

Pourquoi la précision augmente avec le temps

La précision de SIFT s'accumule car les verdicts du juge LLM sont réécrits dans le corpus étiqueté — le modèle coûteux enseigne en continu au modèle bon marché. À mesure que le corpus grandit, la part des escalades vers le LLM diminue, et le corpus lui-même continue de croître à partir du trafic de production, et non d'un projet d'étiquetage coûteux au départ. Le blocage classique de la classification en entreprise — la nécessité de faire d'abord étiqueter des milliers de documents par des humains — disparaît ici : le corpus se constitue tout seul, et la précision augmente avec l'usage.

Comment éviter la dégradation silencieuse

Le principal risque d'un classificateur qui se réentraîne automatiquement est la dégradation silencieuse : le modèle peut se détériorer imperceptiblement après s'être réentraîné seul. SIFT résout ce problème avec un portail de promotion en deux parties. Le premier portail vérifie la régression du F1 sur les étiquettes critiques ; le second est un ensemble de régression « doré » figé (frozen golden regression set), sur lequel le modèle n'est jamais entraîné. L'un ou l'autre déclenche un veto sur le déploiement d'une nouvelle version.

«

Cela transforme le "réentraînement une fois par mois sans humain" d'une imprudence en une routine », indique le préprint de SIFT sur arXiv.

Ce que cela signifie

SIFT propose une recette d'entreprise où un LLM coûteux agit comme professeur pour un classificateur CPU bon marché, et où deux portails de sécurité permettent de confier le réentraînement à l'automatisation. Si l'approche se révèle reproductible, les entreprises n'auraient plus besoin d'un projet d'étiquetage à grande échelle avant de lancer un classificateur — les données et la précision s'accumulent d'elles-mêmes à l'usage.

Questions fréquentes

Qu'est-ce que SIFT ?

SIFT (Self-Improving, Frozen-gate Training) est un service de classification dynamique de documents qui se réentraîne lui-même sur le trafic de production : un pipeline bon marché SPLADE+LightGBM étiquette la majeure partie des pages, tandis qu'un juge LLM traite les cas litigieux et alimente le corpus d'entraînement.

Un étiquetage manuel des documents est-il nécessaire ?

Non. Au lieu d'un projet d'étiquetage préalable pour un nouveau type de document, un bundle déclaratif suffit — un espace d'étiquettes, des phrases-ancres et un glossaire pour le juge LLM. Ensuite, le corpus grandit tout seul à partir du trafic réel.

Comment SIFT est-il protégé de la dégradation lors du réentraînement

automatique ?

Par deux portails : une vérification de régression du F1 sur les étiquettes critiques et un ensemble « doré » figé sur lequel le modèle n'est jamais entraîné. Si au moins un portail échoue, la nouvelle version n'est pas déployée.