Ce que la Chine a interdit aux compagnons IA : les règles de Pékin pour une IA dotée de mémoire

La Chine élabore des règles spécifiques pour les compagnons IA : des réseaux de neurones dotés d'une mémoire de long terme et d'une personnalité stable, qui simulent des relations personnelles proches avec l'utilisateur.

Que sont les compagnons IA et en quoi diffèrent-ils des bots

Un compagnon IA n'est ni un chatbot ordinaire ni un assistant vocal. Il mémorise tout l'historique des conversations précédentes, conserve son caractère et sa manière de parler d'une session à l'autre, et cherche délibérément à créer chez l'utilisateur un sentiment de proximité personnelle. Cette fonction, la simulation intentionnelle de relations de long terme, est devenue la principale cible de l'attention des régulateurs.

La Chine est l'un des plus grands marchés pour ces services. ByteDance, Baidu et des dizaines de startups spécialisées dans le créneau des « humains numériques » monétisent activement l'attachement émotionnel des utilisateurs, surtout chez les jeunes de 16 à 24 ans. Certains produits se présentent ouvertement comme des « partenaires virtuels » ou des « amis numériques » et proposent un abonnement pour un accès permanent à un personnage. C'est cette catégorie qui inquiète le plus les régulateurs.

Pour les régulateurs, l'intention du produit est déterminante. Un assistant IA ordinaire est optimisé pour l'utilité et la précision, alors qu'un compagnon IA est optimisé pour la rétention et l'engagement, un mécanisme que Pékin qualifie de potentiellement manipulateur.

Ce que Pékin interdit et exige exactement

Les nouvelles règles visent des pratiques précises, et non la technologie en tant que classe. Les régulateurs exigent la transparence des plateformes : l'utilisateur doit comprendre à tout moment qu'il parle à une IA et non à une personne réelle. Les restrictions sont particulièrement strictes pour les mineurs : les applications doivent bloquer les contenus susceptibles de créer une dépendance psychologique chez les enfants et les adolescents.

Principales exigences envers les plateformes :

• Divulgation obligatoire de la nature IA du service à toutes les étapes de l'interaction
• Interdiction des contenus romantiques et intimes pour les utilisateurs de moins de 18 ans
• Restrictions sur les fonctions conçues spécifiquement pour créer un attachement de long terme
• Règles de conservation des données des conversations et interdiction de les transmettre à des tiers
• Interdiction d'imiter des personnes réelles vivantes sans leur consentement explicite

Le cadre réglementaire s'appuie sur des lois déjà en vigueur, celle sur la recommandation algorithmique (2022) et celle sur le contenu synthétique, Deep Synthesis (2023). Les compagnons IA ont toutefois nécessité une interprétation distincte en raison de la dynamique émotionnelle spécifique qu'ils créent.

Pourquoi cela compte au-delà de la Chine

L'approche chinoise se distingue par son pragmatisme : les autorités ne cherchent pas à supprimer le marché, mais à l'intégrer dans la logique de protection des consommateurs, la même que celle appliquée aux jeux vidéo ou aux produits financiers.

En Occident, des discussions similaires n'ont pas encore débouché sur des règles claires. En 2025, la startup américaine Character.ai s'est retrouvée au centre de procédures judiciaires dans plusieurs États : des familles d'adolescents accusaient la plateforme d'avoir, via ses compagnons IA, provoqué une grave crise psychologique chez leurs enfants. Dans l'Union européenne, les régulateurs étudient comment l'AI Act s'applique aux systèmes qui créent des pseudo-relations de long terme, mais aucune position claire n'existe pour l'instant.

Certaines plateformes tentent déjà de devancer les régulateurs : plusieurs grands acteurs ont instauré des limites de temps volontaires pour les mineurs et des avertissements obligatoires sur la nature de l'échange.

«

La frontière entre un outil utile et un produit manipulateur est définie non par la technologie, mais par le design », une thèse devenue centrale dans les débats sur l'éthique des compagnons IA.

Ce que cela signifie

La Chine est la première à former un cadre réglementaire opérationnel pour des produits d'IA conçus spécifiquement autour de l'attachement émotionnel. Pour les entreprises mondiales qui opèrent sur le marché chinois ou le visent, les règles de Pékin ne sont plus une simple restriction locale. C'est le premier signal public de ce à quoi pourrait ressembler un standard international pour les systèmes d'IA optimisés pour la proximité humaine.

Qu'est-ce qu'un compagnon IA ?

Un compagnon IA n'est ni un chatbot ordinaire ni un assistant vocal. Il mémorise tout l'historique des conversations précédentes, conserve son caractère et sa manière de parler d'une session à l'autre, et construit délibérément une relation de long terme avec l'utilisateur.

Pourquoi la

Chine instaure-t-elle des règles pour les compagnons IA ? Pékin définit l'usage acceptable de la technologie, en mettant l'accent sur la protection des mineurs et la prévention de la dépendance psychologique aux compagnons IA.