Como os chatbots de IA chineses se autocensuram

Os modelos de linguagem desenvolvidos na China não se diferenciam dos concorrentes ocidentais apenas pela arquitetura ou pelos dados de treinamento. Eles se diferenciam pelo que aceitam discutir e pelo que preferem silenciar. Um novo estudo de pesquisadores das universidades de Stanford e Princeton documenta pela primeira vez, de forma sistemática, a dimensão da autocensura embutida nos chatbots de IA chineses, e os resultados dizem mais do que qualquer suposição.

Os pesquisadores testaram vários dos maiores modelos de linguagem chineses com perguntas sobre temas politicamente sensíveis, dos eventos da Praça da Paz Celestial e do status de Taiwan à política interna do Partido Comunista Chinês e aos direitos humanos em Xinjiang. Os resultados foram comparados com as respostas de modelos ocidentais, incluindo produtos da OpenAI, da Anthropic e do Google. A diferença foi enorme: os modelos chineses se recusaram totalmente a responder, ou deram respostas que os pesquisadores classificaram como factualmente imprecisas e ideologicamente calibradas, muitas vezes mais que os ocidentais. Não eram erros aleatórios: os padrões de evasão eram tão consistentes que indicavam mecanismos de filtragem embutidos de propósito.

É importante entender o contexto do estudo. As empresas chinesas de IA, como a Baidu com o modelo Ernie, a Alibaba com o Qwen, a DeepSeek e outras, avançam de forma agressiva no mercado internacional há um ano e meio. No início de 2025, a DeepSeek causou enorme alvoroço ao apresentar modelos de qualidade comparável à do GPT-4 com custos de treinamento bem menores. Milhões de usuários no mundo todo baixam esses modelos, e a pergunta sobre que visão de mundo eles transmitem deixou de ser acadêmica.

A legislação chinesa obriga expressamente os desenvolvedores de IA a garantir que seus produtos estejam de acordo com os "valores socialistas fundamentais" e não minem o poder estatal. As regras adotadas em 2023 pela Administração do Ciberespaço da China exigem que serviços de IA generativa passem por uma avaliação de segurança antes do lançamento. Na prática, isso significa que a censura é incorporada aos modelos já no desenvolvimento, por meio da filtragem dos dados de treinamento, de ajuste fino em torno das "linhas vermelhas" e de prompts de sistema que limitam o comportamento do modelo. O estudo de Stanford e Princeton mostra que esses mecanismos funcionam de forma eficaz e consistente.

Mas o problema vai muito além do politicamente correto à moda de Pequim. Quando um modelo é treinado para evitar certos temas, isso inevitavelmente afeta a qualidade geral do seu raciocínio. Os pesquisadores observam que os modelos chineses apresentaram precisão reduzida não só em perguntas abertamente políticas, mas também em temas correlatos, como história, geografia e relações internacionais. A censura embutida na base do modelo cria uma espécie de "pontos cegos" que podem aparecer nos contextos mais inesperados. Para o usuário que recorre a um chatbot em busca de informação e não sabe da existência desses filtros, isso representa um risco real de receber uma imagem distorcida do mundo.

O estudo coloca para a comunidade global de IA uma pergunta incômoda, mas necessária, sobre transparência. Os modelos ocidentais também não são livres de restrições: recusam-se a gerar certos conteúdos, evitam alguns temas e carregam vieses próprios do treinamento. Mas há uma diferença fundamental entre se recusar a gerar instruções para fabricar explosivos e distorcer sistematicamente fatos históricos para servir à ideologia do Estado. O primeiro caso é questão de segurança; o segundo, de manipulação informacional.

Para reguladores do mundo todo, os resultados devem funcionar como um alerta. À medida que os modelos chineses ganham popularidade fora da República Popular da China, em parte graças aos pesos abertos e a preços atraentes, são necessários padrões de transparência que permitam ao usuário entender quais restrições estão embutidas no modelo que ele usa. O AI Act europeu já caminha nessa direção, mas nenhuma jurisdição desenvolveu até agora um mecanismo eficaz de auditoria de vieses ideológicos em modelos de linguagem.

A principal conclusão do trabalho dos pesquisadores de Stanford e Princeton não é que os modelos chineses sejam "piores" que os ocidentais. É que a IA inevitavelmente reflete os valores e as limitações do sistema em que é criada. E, quanto mais poderosos esses modelos se tornam, mais importante é entender quais valores exatamente eles carregam e sobre o que foram ensinados a se calar.