Por que modelos de linguagem estragam a estrutura de um documento quando você confia neles para editá-lo

Editar documentos com um modelo de linguagem parece ser uma solução óbvia: inserir texto, dar uma instrução, obter um resultado sem horas de trabalho manual. Na prática, porém, o documento retornado geralmente acaba sendo diferente — com títulos deslocados, parágrafos perdidos ou fragmentos refraseados que ninguém pediu para tocar. Em vez de edição, ocorre uma degradação invisível da estrutura.

Geração versus edição

A contradição fundamental está na própria arquitetura dos transformadores. Modelos de linguagem são treinados para prever o próximo token com base no contexto — eles não "editam" no sentido que um processador de texto faz. Quando um modelo recebe a instrução "corrija a gramática na terceira seção", ele não aplica uma regra precisa às linhas — ele gera o que acredita que o texto atualizado deveria parecer em sua totalidade. O limite "edite apenas isto" é fundamentalmente borrado para um LLM: o modelo avalia todo o contexto e gera uma nova versão em vez de aplicar edições atômicas. Isso é especialmente notável em documentos grandes — quanto mais "material", mais forte é a deriva da fonte.

O fenômeno perdido no meio

Até mesmo modelos com uma janela de contexto de 200k tokens criam problemas estruturais com documentos longos. Pesquisas consistentemente identificam o efeito "lost in the middle": modelos retêm bem informações do início e fim do contexto, mas sistematicamente perdem detalhes do meio. Quanto mais longo o documento, mais forte o efeito. Para arquivos reais, isso significa que elementos estruturais nas seções do meio têm maior probabilidade de corrupção. Vítimas típicas:

• Listas aninhadas — níveis de aninhamento se achatam para um
• Tabelas — perdem alinhamento de colunas ou se convertem em prosa
• Referências cruzadas — se tornam texto simples sem âncoras
• Frontmatter YAML e tags personalizadas — são excluídas como "desorden desnecessário"
• Numeração de seções — fica bagunçada após qualquer inserção ou exclusão de conteúdo

Formatação como tokens sem semântica

Markdown, HTML, LaTeX — o modelo vê tudo isso como tokens ordinários, não como sintaxe com regras. Para uma rede neural, os símbolos `##` são simplesmente dois sinais de cerquilha, não "um título de segundo nível alinhado com o índice". Padrões de formatação são reproduzidos por analogia estatística com dados de treinamento, não por regras sintáticas explícitas. O resultado é previsível: indentação inconsistente, níveis de título confusos, âncoras de link quebradas, alternância aleatória entre formatos dentro de um documento. Cada uma dessas violações é mal perceptível por si só, mas juntas tornam o documento inutilizável para processamento automatizado ou publicação.

"O modelo não entende seu documento — ele entende a distribuição de

probabilidade do próximo token em seu contexto."

Competição entre instrução e padrões

Outro fator é a competição entre a instrução explícita do usuário e os padrões estatísticos aprendidos durante o treinamento. Se Markdown padrão predominava nos dados de treinamento, o modelo será atraído para ele mesmo contra proibição explícita. Templates corporativos não-padrão, marcação específica de padrões técnicos, estilo estrutural específico do autor — tudo isso é vulnerável à "memória" do corpus de treinamento. Além disso, instruções longas se "desfocam" conforme a geração progride. No final de um documento grande, a atenção às restrições do prompt original enfraquece — e a deriva estrutural se acumula.

O que isso significa

Para trabalho prático, a conclusão é clara: LLMs são melhores em tarefas pontuais do que em edição abrangente de um documento inteiro em uma única passagem. Para arquivos estruturados complexos — especificações técnicas, contratos legais, artigos acadêmicos com referências cruzadas — vale a pena dividir o documento em seções isoladas e trabalhar com cada uma separadamente. As instruções devem ser o máximo possível explícitas: "altere apenas este parágrafo, deixe todo o resto sozinho". Após qualquer edição com LLM, verificação explícita de elementos estruturais é necessária — estes são os primeiros a sofrer.