Pourquoi les modèles de langage abîment la structure de vos documents quand vous leur confiez l'édition

Éditer des documents avec un modèle de langage semble la solution évidente : on colle le texte, on donne une consigne et on obtient le résultat sans des heures de travail manuel. En pratique, le document renvoyé est souvent différent : titres décalés, paragraphes perdus ou passages reformulés que personne n'avait demandé de toucher. Au lieu d'une édition, la structure se dégrade en silence.

Génération contre édition

La contradiction centrale tient à l'architecture même des transformeurs. Les modèles de langage sont entraînés à prédire le token suivant à partir du contexte ; ils n'« éditent » pas comme le fait un traitement de texte. Lorsque le modèle reçoit la consigne « corrige la grammaire de la troisième section », il n'applique pas une règle ciblée à certaines lignes : il génère ce que devrait être, selon lui, le texte mis à jour dans son ensemble.

Pour un LLM, la frontière du « modifie seulement ceci » est fondamentalement floue : le modèle évalue tout le contexte et génère une nouvelle version au lieu d'appliquer des modifications atomiques. Cela se voit surtout sur les gros documents : plus il y a de « matière », plus la dérive par rapport à l'original est forte.

Le phénomène du perdu au milieu

Même les modèles dotés d'une fenêtre de contexte de 200k tokens rencontrent des problèmes structurels avec les longs documents. Les études constatent de façon constante l'effet « lost in the middle » : les modèles retiennent bien l'information du début et de la fin du contexte, mais perdent systématiquement les détails du milieu. Plus le document est long, plus l'effet est marqué. Pour des fichiers réels, cela signifie que les éléments structurels des sections centrales sont les plus susceptibles d'être altérés.

Victimes typiques :

• Listes imbriquées : les niveaux d'imbrication sont aplatis en un seul
• Tableaux : ils perdent l'alignement des colonnes ou sont convertis en prose
• Références croisées : elles deviennent du texte brut sans ancres
• Front matter YAML et balises personnalisées : supprimés comme « déchets inutiles »
• Numérotation des sections : elle se dérègle après toute insertion ou suppression de contenu

La mise en forme comme tokens sans sémantique

Markdown, HTML, LaTeX : le modèle voit tout cela comme de simples tokens, et non comme une syntaxe dotée de règles. Pour le réseau de neurones, les symboles `##` sont juste deux croisillons, pas « un titre de deuxième niveau cohérent avec la table des matières ». Les motifs de mise en forme sont reproduits par analogie statistique avec les données d'entraînement, et non selon des règles syntaxiques explicites.

Le résultat est prévisible : retraits incohérents, niveaux de titres mélangés, ancres de liens cassées, bascule aléatoire entre formats au sein d'un même document. Chacun de ces défauts passe inaperçu isolément, mais, cumulés, ils rendent le document inutilisable pour un traitement automatique ou une publication.

«

Le modèle ne comprend pas votre document : il comprend la distribution de probabilités du token suivant dans son contexte. »

Consigne contre motifs appris

Un autre facteur est la concurrence entre la consigne explicite de l'utilisateur et les motifs statistiques assimilés pendant l'entraînement. Si le Markdown standard dominait les données d'entraînement, le modèle y reviendra même contre une interdiction explicite. Un modèle de document d'entreprise non standard, le balisage spécifique de normes techniques, un style structurel d'auteur : tout cela est vulnérable à la « mémoire » du corpus d'entraînement.

Par ailleurs, les consignes longues se « diluent » au fil de la génération. À la fin d'un gros document, l'attention portée aux contraintes du prompt initial faiblit, et la dérive structurelle s'accentue.

Ce que cela signifie

La conclusion pratique est directe : les LLM s'en sortent mieux sur des tâches ciblées que pour l'édition complète d'un document entier en une seule passe. Pour les fichiers structurés complexes, comme les spécifications techniques, les contrats juridiques ou les articles académiques avec références croisées, mieux vaut découper le document en sections isolées et traiter chacune séparément. Les consignes doivent être aussi explicites que possible : « modifie uniquement ce paragraphe, ne touche pas au reste ». Après toute édition par un LLM, une vérification explicite des éléments structurels est nécessaire, car ce sont les premiers à en pâtir.