Comment les chatbots d'IA chinois s'autocensurent

Les modèles de langage développés en Chine ne se distinguent pas de leurs concurrents occidentaux seulement par leur architecture ou leurs données d'entraînement. Ils se distinguent par ce dont ils acceptent de parler et ce qu'ils préfèrent taire. Une nouvelle étude de chercheurs des universités de Stanford et de Princeton documente pour la première fois de façon systématique l'ampleur de l'autocensure intégrée aux chatbots d'IA chinois, et ses résultats en disent plus que n'importe quelle supposition.

Les chercheurs ont testé plusieurs des plus grands modèles de langage chinois avec des questions sur des sujets politiquement sensibles, des événements de la place Tiananmen et du statut de Taïwan à la politique intérieure du Parti communiste chinois et aux droits humains au Xinjiang. Les résultats ont été comparés aux réponses de modèles occidentaux, dont des produits d'OpenAI, d'Anthropic et de Google. L'écart est colossal : les modèles chinois ont refusé de répondre purement et simplement, ou ont fourni des réponses que les chercheurs jugent factuellement inexactes et idéologiquement calibrées, bien plus souvent que les modèles occidentaux. Il ne s'agissait pas d'erreurs aléatoires : les schémas d'évitement étaient si constants qu'ils désignaient des mécanismes de filtrage intégrés volontairement.

Il faut comprendre le contexte de cette étude. Les entreprises chinoises d'IA, parmi lesquelles Baidu avec son modèle Ernie, Alibaba avec Qwen, DeepSeek et d'autres, se lancent à l'assaut du marché international depuis un an et demi. Début 2025, DeepSeek a fait sensation en présentant des modèles de qualité comparable à GPT-4 pour des coûts d'entraînement bien inférieurs. Des millions d'utilisateurs dans le monde téléchargent ces modèles, et la question de la vision du monde qu'ils véhiculent n'a plus rien d'académique.

La législation chinoise oblige explicitement les développeurs d'IA à veiller à ce que leurs produits respectent les « valeurs socialistes fondamentales » et ne sapent pas le pouvoir de l'État. Les règles adoptées en 2023 par l'Administration chinoise du cyberespace exigent que les services d'IA générative passent un contrôle de sécurité avant leur mise sur le marché. Concrètement, la censure est donc intégrée aux modèles dès le développement, par le filtrage des données d'entraînement, un réglage fin autour des « lignes rouges » et des prompts système qui bornent le comportement du modèle. L'étude de Stanford et de Princeton montre que ces mécanismes fonctionnent de manière efficace et constante.

Mais le problème dépasse largement le conformisme politique à la pékinoise. Quand un modèle est entraîné à éviter certains sujets, cela affecte forcément la qualité globale de son raisonnement. Les chercheurs relèvent que les modèles chinois affichaient une précision réduite non seulement sur les questions ouvertement politiques, mais aussi sur des sujets connexes : histoire, géographie, relations internationales. La censure intégrée au socle du modèle crée une sorte d'« angles morts » qui peuvent apparaître dans les contextes les plus inattendus. Pour l'utilisateur qui interroge un chatbot pour s'informer sans savoir que de tels filtres existent, cela représente un risque réel d'obtenir une image déformée du monde.

L'étude pose à la communauté mondiale de l'IA une question de transparence inconfortable mais nécessaire. Les modèles occidentaux ne sont pas exempts de restrictions : ils refusent de produire certains contenus, évitent certains sujets et portent leurs propres biais issus de l'entraînement. Mais il existe une différence fondamentale entre refuser de générer des instructions de fabrication d'explosifs et déformer systématiquement des faits historiques au profit de l'idéologie d'État. Le premier cas relève de la sécurité, le second de la manipulation de l'information.

Pour les régulateurs du monde entier, ces résultats doivent servir de signal d'alarme. À mesure que les modèles chinois gagnent en popularité hors de la RPC, notamment grâce aux poids ouverts et à des prix attractifs, il faut des normes de transparence permettant aux utilisateurs de savoir quelles restrictions sont intégrées au modèle qu'ils emploient. L'AI Act européen va déjà dans ce sens, mais aucune juridiction n'a encore mis au point de mécanisme efficace pour auditer les biais idéologiques des modèles de langage.

La principale conclusion des travaux des chercheurs de Stanford et de Princeton n'est pas que les modèles chinois seraient « moins bons » que les modèles occidentaux. C'est que l'IA reflète inévitablement les valeurs et les contraintes du système qui la produit. Et plus ces modèles gagnent en puissance, plus il importe de comprendre quelles valeurs ils portent exactement, et sur quoi ils ont appris à se taire.