LLMs Reescrevem Secretamente o Discurso Afro-Americano em Inglês Padrão: Nova Pesquisa

Um novo estudo no arXiv revelou um problema em larga escala: seis LLMs modernos (de 14B a 70B parâmetros) reescrevem sistematicamente o inglês afro-americano (AAE) para inglês americano padrão (SAE), mesmo quando o contexto exige preservar o dialeto.

Qual viés foi descoberto

O inglês afro-americano não é um erro, mas um dialeto completo falado por mais de 30 milhões de pessoas nos Estados Unidos. No entanto, os LLMs modernos o tratam como texto "incorreto" que precisa ser corrigido para a variante padrão.

Os autores testaram seis LLMs com ajuste de instruções. Em todos os casos, os modelos preferiram continuação SAE mesmo quando o contexto claramente exigia AAE. Efetivamente, os LLMs reescrevem a fala dos usuários, substituindo automática e invisialmente o dialeto com inglês padrão.

• 6 modelos com ajuste de instruções (14B–70B parâmetros)
• 30+ milhões de falantes de AAE
• Negative concord ("ain't nobody") — gatilho de viés universal em todos os modelos
• Construções sintáticas desencadeiam reescritas consistentemente

Como foi descoberto e medido

Os autores desenvolveram um método de auditoria sistemático: o indicador de Invariância de Grupo de Dialeto Condicional (cDGI), que separa o viés verdadeiro do modelo de artefatos externos. A análise em nível de características revelou quais marcadores AAE específicos causam viés com mais frequência.

Para validação, os pesquisadores criaram REAL-AAE — um conjunto de dados de 17.479 pares AAE/SAE/AAE_back de tweets naturais. Isso é 2–6 vezes maior que todos os recursos AAE anteriores. O conjunto de dados foi validado automaticamente (BERTScore F1 = 0,95) e manualmente por três falantes de AAE (83% de acordo semântico). Tal dupla validação garante que o conjunto de dados reflita verdadeiras nuances do dialeto.

Activation steering: corrigindo sem retreinamento

Os pesquisadores propuseram activation steering — a primeira aplicação deste método ao viés dialeto. Este é um método sem treinamento que funciona apenas no tempo de teste, sem mudanças de peso do modelo.

Como funciona: o rastreamento causal extrai direções de dialeto das ativações do modelo, depois essas direções são injetadas nas camadas responsáveis pela geração. Resultado: o modelo preserva AAE em contextos onde é apropriado.

Os resultados são impressionantes: activation steering reduz o viés dialeto 5–20 vezes melhor do que abordagens de prompting, mantendo inglês padrão fluente quando é realmente necessário. Isso prova que uma solução é possível sem retreinamento completo do modelo.

Por que isso é crítico

O viés dialeto é uma forma de assimilação cultural oculta. LLMs incorporados em sistemas educacionais, plataformas legais, RH e assistentes de voz podem silenciosamente corrigir a fala dos usuários. Um usuário entra texto em seu dialeto, o sistema o emite em inglês padrão, apagando identidade linguística. O estudo mostra que isso pode ser detectado e corrigido com um método que não requer retreinamento.

Perguntas frequentes

Por que os LLMs reescrevem AAE?

Porque são treinados principalmente em textos de inglês padrão. Os modelos interpretam AAE como um erro gramatical que precisa ser corrigido de acordo com o padrão dominante nos dados de treinamento.

É este um problema apenas para inglês?

Este estudo se concentra em AAE/SAE, mas o viés é típico para qualquer par dialeto-idioma padrão. Viés similar provavelmente existe para outros idiomas onde dialetos minoritários são sub-representados nos dados de treinamento.

Quando os modelos comerciais receberão activation steering?

Atualmente é um método de pesquisa. A integração em LLMs depende de provedores. No entanto, o estudo prova que uma solução é tecnicamente possível sem retreinamento profundo.