Le NER de bon sens : pourquoi les spans battent enfin les tags BIO

Imaginez que vous construisiez une maison, mais qu'au lieu de manipuler des briques ou des murs entiers, vous demandiez aux ouvriers de décrire chaque grain de sable du mortier. C'est à peu près ce que nous faisons en NLP depuis dix ans avec l'étiquetage BIO pour la reconnaissance d'entités nommées (NER). Nous nous sommes habitués à l'idée que le modèle doit marquer chaque token : ici une entité commence (B), ici elle continue (I), et ici nous en sommes sortis (O). C'était pratique pour les mathématiques et pour les bonnes vieilles couches CRF, mais c'est monstrueusement inefficace pour des systèmes réels.

Le problème, c'est qu'une entité dans un texte n'est pas une chaîne d'étiquettes, mais un fragment d'un seul tenant, avec des frontières physiques. Quand on force le modèle à prédire des tags pour chaque morceau d'un mot, on crée une redondance colossale et des points de défaillance superflus. Quiconque a entraîné BERT ou ses dérivés pour du NER connaît cette douleur bien particulière.

Les tokenizers modernes comme WordPiece ou BPE découpent les mots complexes en sous-tokens. Résultat : un simple nom de famille peut devenir trois ou quatre fragments, et il faut soit masquer les parties en trop, soit bricoler des rustines pour les fusionner en post-traitement. On obtient une prédiction qu'il faut encore longuement et péniblement décoder pour répondre à une simple question : où est le nom du directeur ?

Passer à une approche au niveau du span n'est pas une extravagance architecturale de plus : c'est reconnaître que nous avons trop longtemps suivi la voie de la moindre résistance. Au lieu de classer chaque token, les systèmes modernes voient le texte comme un ensemble de segments potentiels (spans). Le modèle apprend à déterminer les frontières, un indice de début et un indice de fin, et à associer un type d'entité à ce segment.

Cela règle d'emblée et définitivement le problème des séquences incohérentes. Dans le monde BIO, le modèle pouvait émettre un tag de début d'organisation, puis coller sur le token suivant une suite de personne. Avec l'approche par spans, une telle erreur logique est techniquement impossible.

Le modèle dit simplement : du troisième au cinquième mot, nous avons un lieu. Et cette affirmation est atomique.

Par ailleurs, l'approche BIO classique échoue complètement face aux entités imbriquées (nested entities). Essayez d'annoter correctement l'expression « Université d'État de Moscou » si votre application doit extraire à la fois la ville (Moscou) et l'établissement lui-même comme objet distinct. Dans une chaîne unidimensionnelle de tokens, cela tourne à l'enfer combinatoire ou oblige à empiler plusieurs modèles.

Les spans règlent cela avec élégance et naturel : un même passage de texte, ou un sous-ensemble de celui-ci, peut appartenir à différentes catégories à différents niveaux d'abstraction. C'est crucial pour les documents juridiques, où un contrat est imbriqué dans un avenant lui-même imbriqué dans un acte, ou pour la médecine, où le nom d'un symptôme peut faire partie du nom d'un syndrome complexe.

Pourquoi en parler maintenant ? Nous sortons rapidement de l'ère du « pourvu que le modèle sorte quelque chose » pour entrer dans celle d'une IA industrielle et fiable. Dans les pipelines réels, la propreté des données, la facilité de maintenance et la prévisibilité des résultats comptent désormais plus que de gratter un point de pourcentage de F1 sur des jeux de données académiques rebattus comme CoNLL-2003. Les spans permettent de simplifier radicalement le code, de se débarrasser de centaines de lignes d'expressions régulières pour recoller les tokens et de rendre les modèles plus robustes au bruit de tokenisation.

Si votre module de NER crache encore une interminable litanie de tags que vous tentez ensuite d'assembler en objets cohérents, vous êtes resté dans le passé. La stack moderne exige de travailler directement avec les frontières du sens. C'est non seulement plus rapide à développer, mais aussi tout simplement plus logique d'un point de vue linguistique. Après tout, nous ne lisons pas les mots lettre par lettre ; nous percevons des phrases et des objets entiers. Il serait temps que nos modèles fassent de même.

L'essentiel : il faut cesser d'apprendre aux modèles à voir des tokens et commencer à leur apprendre à voir des blocs de sens. L'avenir du NER appartient aux architectures qui travaillent directement avec les frontières des objets, en laissant les tags BIO aux manuels d'histoire.