El Ministerio digital ruso, la UE y el NIST fijan nuevas reglas de seguridad y regulación de la IA

Security Vision ha publicado un amplio análisis sobre cómo se está armando con rapidez en torno a la IA un nuevo sistema de reglas, estándares y prácticas de protección. En primer plano no están solo las leyes, sino también cuestiones muy prácticas: fugas de datos, prompt injection, robo de modelos y control de los sistemas agénticos.

Cómo se regula la IA

En Rusia, el punto de partida sigue siendo el decreto n.º 490 del 10 de octubre de 2019 y la estrategia actualizada de desarrollo de la IA hasta 2030. Después llegaron un régimen experimental en Moscú, un proyecto de concepto de regulación de la IA hasta 2030 del Ministerio de Desarrollo Digital (Mintsifry) y de la «Alianza en el ámbito de la IA», y un código ético del Banco Central para el mercado financiero. El rumbo general está claro: estimular la adopción de la IA, pero exigir al mismo tiempo transparencia, protección de datos, gestión de riesgos y control humano.

Fuera de Rusia, el marco se endurece. En la UE ya está en vigor la EU AI Act, que divide los sistemas en niveles de riesgo inaceptable, alto y ordinario: desde prohibiciones directas para la puntuación social y varias prácticas biométricas hasta registros obligatorios, supervisión humana y requisitos de ciberseguridad. En 2025, EE. UU. publicó el AI Action Plan, centrado en acelerar la innovación, la infraestructura y el enfoque secure by design. China refuerza el etiquetado de contenido generado por IA, Corea del Sur y Kazajistán han aprobado leyes propias, y la ONU, la UNESCO y los BRICS construyen una plataforma internacional para reglas comunes.

Estándares y control

En paralelo a las leyes, crece con rapidez una capa de estándares y marcos. ISO e IEC ya han formalizado documentos sobre terminología, gestión de riesgos, ciclo de vida de la IA, evaluación de robustez y seguridad de los datos. En Rusia les corresponden nuevas normas GOST, y en EE. UU. el NIST desarrolla el AI Risk Management Framework, que se ha convertido en uno de los esquemas prácticos más visibles para las empresas. Su lógica es simple: no discutir sobre la IA en el vacío, sino integrar sus riesgos en la gestión habitual del producto, la seguridad y el desarrollo.

• Govern — asignar responsables, políticas y procesos para los riesgos de la IA
• Map — entender el contexto, los escenarios de uso y el daño potencial
• Measure — comprobar la fiabilidad, la validez y la eficacia de las medidas de protección
• Manage — priorizar riesgos, reducir daños y documentar las decisiones

Por separado se forma una capa de marcos especializados: MITRE ATLAS cataloga tácticas de ataque a la IA, OWASP recopila los riesgos críticos para los LLM y los sistemas agénticos, Google desarrolla SAIF y los grandes proveedores publican sus propios marcos de safety y preparedness. Esto importa por una razón: la seguridad de la IA ya no se reduce a proteger un servidor o una API. Ahora hay que evaluar el comportamiento del modelo, la calidad de los datos, la resistencia a la manipulación y las consecuencias para el usuario.

Dónde rompen la IA

La IA tiene su propia superficie de ataque. Los grandes modelos de lenguaje distinguen mal entre datos e instrucciones, así que un texto malicioso en una página web, un correo o un documento puede convertirse en una orden para un agente. De ahí el aumento de los ataques de prompt injection directos e indirectos, el jailbreak, la extraction y el data poisoning. Si el sistema está conectado al correo, a un CRM, al almacenamiento de archivos o a servicios externos, el coste de un error se dispara: el atacante puede no limitarse a obtener una respuesta extraña, sino acceder a datos corporativos o hacer que el agente ejecute una acción no deseada.

La segunda gran zona de riesgo son los propios datos. Las empresas se topan cada vez más con la Shadow AI, cuando los empleados suben documentos internos a chatbots públicos sin autorización. IBM citó una estimación según la cual el 13 % de las empresas encuestadas ya había informado de fugas a través de la IA. Si se suman el robo de claves API para el LLM jacking, la posible copia de modelos mediante destilación y el problema de las alucinaciones con datos sintéticos, se entiende por qué grounding, zero data retention, MLSecOps y DLP dejan de ser opcionales. Otra tendencia: los propios delincuentes usan herramientas agénticas para automatizar los ataques y rebajar la barrera de entrada al cibercrimen.

Qué significa

El mercado de la IA entra en una fase en la que gana no quien simplemente despliega un modelo más rápido, sino quien sabe demostrar su fiabilidad, explicabilidad y seguridad. Para las empresas esto significa una cosa: la IA ya no puede lanzarse como «un servicio SaaS más». Necesita reglas de acceso propias, control de datos, auditoría de las integraciones y pruebas periódicas frente a ataques.