SemiAnalysis: los laboratorios chinos de IA casi no publican pruebas de seguridad de sus modelos

Los desarrolladores chinos de IA casi no publican los resultados de las pruebas de seguridad de sus modelos. Es la conclusión a la que ha llegado la consultora de investigación SemiAnalysis. Según la firma, los laboratorios de China son muy reacios a compartir información sobre cómo evalúan sus sistemas frente a usos peligrosos. Esto ocurre en un contexto de preocupación creciente en todo el mundo por el rápido avance de los modelos de IA más avanzados. El material disponible no incluye datos cuantitativos del informe, pero la conclusión es relevante: en un segmento donde se compite por cada punto porcentual en los benchmarks, el apartado de riesgos suele quedar vacío.

Qué falta en el debate público

Los grandes laboratorios occidentales han consolidado una práctica. Con el lanzamiento de un modelo estrella publican una system card o model card que describe las evaluaciones de capacidades peligrosas, el trabajo de los equipos rojos, los resultados de las pruebas de uso indebido y las limitaciones. El contenido de estos documentos es discutible, pero los expertos externos tienen material con el que contrastarlo. Las empresas chinas suelen publicar informes técnicos sobre la arquitectura, el entrenamiento y los resultados en pruebas de conocimiento, matemáticas y código. Las secciones sobre cómo se comporta el modelo en escenarios de riesgo biológico, cibernético u otros riesgos graves son escasas o directamente inexistentes.

Hay excepciones. En 2024, en la cumbre de Seúl sobre seguridad de la IA, empresas de distintos países firmaron compromisos voluntarios, entre ellas la china Zhipu AI. Pero un compromiso no equivale a un informe. Sin una metodología ni unos resultados publicados, no se puede comprobar su cumplimiento.

Por qué el problema es más grave en los modelos abiertos

Una parte considerable de los modelos chinos más potentes se lanza con pesos abiertos. Para las empresas es una ventaja: pueden desplegarlos en su propia infraestructura, ajustarlos con fine-tuning y no depender de una API. Pero la apertura tiene una cara menos amable. Las restricciones de seguridad que incorpora el desarrollador se pueden eliminar con fine-tuning y un presupuesto reducido. Por eso, evaluar los riesgos antes del lanzamiento y publicar los resultados con honestidad es la única forma de saber de qué punto parte quien tome el modelo y lo lleve más lejos.

Las verificaciones independientes ya han detectado problemas. A comienzos de 2025, investigadores de Cisco informaron de que, en su prueba, DeepSeek R1 no bloqueó ni una sola solicitud maliciosa del conjunto HarmBench. Más tarde, el instituto estadounidense NIST publicó su propia evaluación de DeepSeek, con conclusiones sobre su vulnerabilidad al jailbreak y al secuestro de agentes. Estos trabajos los realizan grupos externos, no los propios desarrolladores, y esa es justamente la asimetría que señala SemiAnalysis.

Qué se sabe de la publicación

• Autor de la conclusión: SemiAnalysis, consultora de investigación especializada en IA y semiconductores.
• Fondo: los desarrolladores chinos son reacios a revelar información sobre las pruebas de seguridad de sus modelos.
• Contexto: inquietud global por el ritmo de avance de los sistemas de IA más avanzados.
• Lo que no aparece en el extracto disponible: la lista de modelos evaluados, los nombres de las empresas y las puntuaciones numéricas.

Qué deben hacer los equipos que eligen un modelo

Si va a integrar un modelo chino en su producto, la ausencia de un informe público de seguridad significa que tendrá que hacer la evaluación por su cuenta. El conjunto mínimo sería este: una ejecución propia con solicitudes de jailbreak, una prueba de prompt injection si el modelo tiene acceso a herramientas y una comprobación de su comportamiento con datos de su sector. En escenarios agénticos conviene limitar los permisos de acceso y mantener un registro de las acciones. En las versiones open-weight, añada una capa externa de filtrado en la entrada y en la salida, sin confiar en las restricciones integradas.

Solicite los documentos directamente a los proveedores. Si no hay respuesta, eso también es información para evaluar el riesgo. Y para el mercado en su conjunto, la cuestión es sencilla: si la divulgación de los resultados de las pruebas de seguridad podrá llegar a ser un estándar tan asentado como la publicación de benchmarks.