Qué ha prohibido China en los compañeros de IA: las reglas de Pekín para una IA con memoria

China elabora normas específicas para los compañeros de IA: redes neuronales con memoria a largo plazo y una personalidad estable que simulan relaciones personales cercanas con el usuario.

Qué son los compañeros de IA y en qué se diferencian de los bots

Un compañero de IA no es un chatbot corriente ni un asistente de voz. Recuerda todo el historial de conversaciones anteriores, mantiene su carácter y su forma de hablar de una sesión a otra y busca deliberadamente crear en el usuario una sensación de cercanía personal. Esta función, la simulación intencionada de relaciones a largo plazo, se ha convertido en el principal objeto de atención de los reguladores.

China es uno de los mayores mercados para estos servicios. ByteDance, Baidu y decenas de startups especializadas en el nicho de los "humanos digitales" monetizan activamente el apego emocional de los usuarios, sobre todo entre jóvenes de 16 a 24 años. Algunos productos se presentan abiertamente como "parejas virtuales" o "amigos digitales" y ofrecen suscripciones por acceso continuo a un personaje. Es la categoría que más inquieta a los reguladores.

Para los reguladores, lo decisivo es la intención del producto. Un asistente de IA corriente se optimiza para la utilidad y la precisión; un compañero de IA, para la retención y la implicación, un mecanismo que Pekín considera potencialmente manipulador.

Qué prohíbe y qué exige exactamente Pekín

Las nuevas normas apuntan a prácticas concretas, no a la tecnología como categoría. Los reguladores exigen transparencia a las plataformas: el usuario debe saber en todo momento que habla con una IA y no con una persona real. Las restricciones son especialmente estrictas con los menores: las aplicaciones deben bloquear el contenido que pueda generar dependencia psicológica en niños y adolescentes.

Principales requisitos para las plataformas:

• Revelación obligatoria de la naturaleza de IA del servicio en todas las fases de la interacción
• Prohibición del contenido romántico e íntimo para usuarios menores de 18 años
• Restricciones a las funciones diseñadas específicamente para crear apego a largo plazo
• Normas de almacenamiento de los datos de las conversaciones y prohibición de cederlos a terceros
• Prohibición de imitar a personas reales vivas sin su consentimiento expreso

El marco regulatorio se basa en leyes ya vigentes, la de recomendación algorítmica (2022) y la de contenido sintético, Deep Synthesis (2023). Sin embargo, los compañeros de IA han exigido una interpretación aparte por la dinámica emocional específica que generan.

Por qué importa fuera de China

El enfoque chino destaca por su pragmatismo: las autoridades no intentan eliminar el mercado, sino integrarlo en la lógica de protección del consumidor, la misma que se aplica a los videojuegos o a los productos financieros.

En Occidente, debates similares aún no han dado lugar a normas claras. En 2025, la startup estadounidense Character.ai se vio en el centro de procesos judiciales en varios estados: familias de adolescentes acusaban a la plataforma de que los compañeros de IA provocaron una grave crisis psicológica en sus hijos. En la Unión Europea, los reguladores estudian cómo se aplica la AI Act a los sistemas que crean seudorrelaciones a largo plazo, pero todavía no hay una postura clara.

Algunas plataformas ya intentan adelantarse a los reguladores: varios grandes actores han introducido límites de tiempo voluntarios para menores y avisos obligatorios sobre la naturaleza de la comunicación.

"La frontera entre una herramienta útil y un producto manipulador la

define no la tecnología, sino el diseño", una tesis que se ha vuelto central en los debates sobre la ética de los compañeros de IA.

Qué significa

China es el primero en formar un marco regulatorio operativo para productos de IA diseñados específicamente para el apego emocional. Para las empresas globales que operan en el mercado chino o lo miran de cerca, las reglas de Pekín ya no son solo una restricción local. Son la primera señal pública de cómo podría ser un estándar internacional para sistemas de IA optimizados para la cercanía humana.

¿Qué es un compañero de IA?

Un compañero de IA no es un chatbot corriente ni un asistente de voz. Recuerda todo el historial de conversaciones anteriores, mantiene su carácter y su forma de hablar de una sesión a otra y construye deliberadamente una relación a largo plazo con el usuario.

¿Por qué China introduce normas para los compañeros de IA?

Pekín define el uso aceptable de la tecnología con el énfasis principal en la protección de los menores y en la prevención de la dependencia psicológica de los compañeros de IA.