China introduce reglas para compañeros de IA: qué prohíbe y exige Pekín

China está desarrollando normas especiales para acompañantes de IA — agentes conversacionales con memoria a largo plazo y personalidad consistente que simulan relaciones personales íntimas con el usuario. Pekín no prohíbe la tecnología, pero define claramente qué es permisible: el enfoque principal es proteger a los menores de edad y prevenir la dependencia psicológica.

Qué son los acompañantes de IA y en qué se diferencian de los bots

Un acompañante de IA no es un chatbot común ni un asistente de voz. Recuerda todo el historial de conversaciones anteriores, mantiene el carácter y patrones de lenguaje de sesión a sesión y deliberadamente cultiva una sensación de intimidad personal con el usuario. Precisamente esta función — la simulación intencional de relaciones a largo plazo — se ha convertido en el principal foco de la atención reguladora.

China es uno de los mayores mercados para tales servicios. ByteDance, Baidu y docenas de startups especializadas en el nicho de "humanos digitales" monetizan activamente el apego emocional del usuario, particularmente entre usuarios de 16-24 años. Algunos productos se posicionan abiertamente como "parejas virtuales" o "amigos digitales", ofreciendo suscripciones para acceso continuo a un personaje — esta categoría preocupa más a los reguladores.

Para los reguladores, la intención del producto es fundamentalmente importante. Mientras que un asistente de IA común se optimiza para utilidad y precisión, un acompañante de IA se optimiza para retención e engagement — un mecanismo que Pekín califica como potencialmente manipulador.

Qué prohíbe y exige específicamente Pekín

Las nuevas normas se dirigen contra prácticas específicas, no contra la tecnología como tal. Los reguladores exigen transparencia de las plataformas: los usuarios deben entender en cualquier momento que interactúan con IA, no con una persona viva. Restricciones particularmente estrictas se aplican a menores de edad: las aplicaciones deben bloquear contenido que pueda crear dependencia psicológica en niños y adolescentes.

Requisitos clave para las plataformas:

• Divulgación obligatoria de la naturaleza de IA del servicio en todas las etapas de interacción
• Prohibición de contenido romántico e íntimo para usuarios menores de 18 años
• Restricciones en funciones específicamente diseñadas para fomentar apego a largo plazo
• Normas para almacenamiento de datos de conversación y prohibición de compartir con terceros
• Prohibición de imitar personas reales vivas sin su consentimiento explícito

El marco regulador se construye sobre leyes ya existentes — sobre recomendación algorítmica (2022) y contenido sintético Deep Synthesis (2023) — pero los acompañantes de IA requirieron un tratamiento separado debido a las especificidades de la dinámica emocional que crean.

Por qué esto importa fuera de China

El enfoque chino destaca por su pragmatismo: las autoridades no intentan eliminar el mercado, sino integrarlo en la lógica de protección del consumidor — la misma lógica aplicada a videojuegos o productos financieros.

En Occidente, discusiones similares aún no han producido normas claras. En 2025, la startup estadounidense Character.ai se encontró en el centro de litigios en varios estados: familias de adolescentes acusaron a la plataforma de usar acompañantes de IA para provocar crisis psicológicas graves en niños. En la Unión Europea, los reguladores están examinando cómo se aplica la AI Act a sistemas que crean pseudorrelaciones a largo plazo, pero aún no existe una posición clara.

Algunas plataformas ya están tratando de adelantarse a los reguladores: varios grandes actores han introducido límites de tiempo voluntarios para menores de edad y advertencias obligatorias sobre la naturaleza de la interacción.

"La frontera entre una herramienta útil y un producto manipulador se

determina no por la tecnología, sino por el diseño" — una tesis que se ha convertido en central en las discusiones sobre la ética de los acompañantes de IA.

Qué significa esto

China es la primera en establecer un marco regulador funcional para productos de IA específicamente diseñados para el apego emocional. Para empresas globales que operan en el mercado chino o lo observan, las normas de Pekín ya no son meramente una restricción local. Esta es la primera señal pública de cómo podría verse un estándar internacional para sistemas de IA optimizados para la intimidad humana.