Cómo se autocensuran los chatbots de IA chinos

Los modelos de lenguaje desarrollados en China no solo se distinguen de sus rivales occidentales por la arquitectura o los datos de entrenamiento. Se distinguen por aquello de lo que están dispuestos a hablar y aquello sobre lo que prefieren callar. Un nuevo estudio de investigadores de las universidades de Stanford y Princeton documenta por primera vez de forma sistemática la magnitud de la autocensura integrada en los chatbots de IA chinos, y los resultados son más elocuentes que cualquier suposición.

Los investigadores probaron varios de los mayores modelos de lenguaje chinos con preguntas sobre temas políticamente sensibles, desde los sucesos de la plaza de Tiananmén y el estatus de Taiwán hasta la política interna del Partido Comunista de China y los derechos humanos en Sinkiang. Compararon los resultados con las respuestas de modelos occidentales, incluidos productos de OpenAI, Anthropic y Google. La brecha fue enorme: los modelos chinos se negaron a responder por completo o dieron respuestas que los investigadores calificaron de factualmente inexactas e ideológicamente pulidas muchas veces más a menudo. No se trataba de errores aleatorios: los patrones de evasión eran tan consistentes que apuntaban a mecanismos de filtrado integrados deliberadamente.

Conviene entender el contexto del estudio. Las empresas chinas de IA, entre ellas Baidu con su modelo Ernie, Alibaba con Qwen, DeepSeek y otras, se expanden con agresividad en el mercado internacional desde hace año y medio. A comienzos de 2025, DeepSeek causó un gran revuelo al presentar modelos de calidad comparable a GPT-4 con costes de entrenamiento mucho menores. Millones de usuarios en todo el mundo descargan estos modelos, y la cuestión de qué visión del mundo transmiten ha dejado de ser académica.

La legislación china obliga expresamente a los desarrolladores de IA a garantizar que sus productos respeten los «valores socialistas fundamentales» y no socaven el poder del Estado. Las normas que adoptó en 2023 la Administración del Ciberespacio de China exigen que los servicios de IA generativa superen una revisión de seguridad antes de salir al mercado. En la práctica, esto significa que la censura se incorpora a los modelos durante el desarrollo, mediante el filtrado de los datos de entrenamiento, el ajuste fino en torno a las «líneas rojas» y prompts de sistema que limitan el comportamiento del modelo. El estudio de Stanford y Princeton muestra que estos mecanismos funcionan de manera eficaz y consistente.

Sin embargo, el problema va mucho más allá de la corrección política al estilo de Pekín. Cuando un modelo se entrena para eludir ciertos temas, eso afecta inevitablemente a la calidad general de su razonamiento. Los investigadores señalan que los modelos chinos mostraron una precisión reducida no solo en preguntas abiertamente políticas, sino también en temas afines como historia, geografía y relaciones internacionales. La censura integrada en los cimientos del modelo crea una especie de «puntos ciegos» que pueden aparecer en los contextos más inesperados. Para el usuario que consulta a un chatbot y no sabe que existen esos filtros, supone un riesgo real de recibir una imagen distorsionada del mundo.

El estudio plantea a la comunidad global de la IA una pregunta incómoda pero necesaria sobre transparencia. Los modelos occidentales tampoco están libres de restricciones: se niegan a generar cierto contenido, evitan algunos temas y arrastran sus propios sesgos del entrenamiento. Pero hay una diferencia fundamental entre negarse a generar instrucciones para fabricar explosivos y distorsionar sistemáticamente hechos históricos para servir a la ideología del Estado. Lo primero es una cuestión de seguridad; lo segundo, de manipulación informativa.

Para los reguladores de todo el mundo, los resultados deberían ser una llamada a actuar. A medida que los modelos chinos ganan popularidad fuera de la República Popular, en parte gracias a los pesos abiertos y a unos precios atractivos, hacen falta estándares de transparencia que permitan a los usuarios saber qué restricciones incorpora el modelo que utilizan. La AI Act europea ya avanza en esa dirección, pero ninguna jurisdicción ha desarrollado todavía un mecanismo eficaz para auditar los sesgos ideológicos de los modelos de lenguaje.

La principal conclusión del trabajo de los investigadores de Stanford y Princeton no es que los modelos chinos sean «peores» que los occidentales, sino que la IA refleja inevitablemente los valores y las limitaciones del sistema en que se crea. Y cuanto más potentes son estos modelos, más importa saber qué valores concretos transmiten y sobre qué se les ha enseñado a callar.