Utimaco: la protección de sistemas de IA requiere transición a criptografía poscuántica

Utimaco: proteger sistemas de IA requiere transición a criptografía post-cuántica

Utimaco considera que para la IA corporativa, el principal desafío ya no es la calidad de los modelos, sino proteger los datos en los que estos modelos se entrenan y operan. La empresa advierte: si construyes infraestructura de IA solo para las amenazas actuales, en algunos años tendrás que rediseñarla para seguridad post-cuántica.

La Barrera Principal para la Adopción

En el eBook AI Quantum Resilience, se señala que las empresas frecuentemente ralentizan la implementación de IA no por falta de casos de uso, sino por el riesgo de fuga, sustitución o comprometimiento de sus propios datos. Esto es especialmente sensible para organizaciones que desean entrenar modelos con documentos internos, información financiera, propiedad intelectual y otros datos con valor a largo plazo. Cuanto más valiosos los datos, mayor el costo del error: comprometer el pipeline de entrenamiento afecta tanto la calidad del modelo como los riesgos legales.

El problema es que las amenazas surgen en todas las fases del trabajo con IA. No se trata solo de la fase de inferencia, donde típicamente se discuten inyección de prompts y fuga de resultados. Los peligros aparecen durante la carga de datos, entrenamiento, almacenamiento de claves, despliegue del modelo y operación continua. Si cualquiera de estas capas carece de protección, un atacante obtiene un punto de entrada al sistema completo.

Tres Zonas de Riesgo

Utimaco identifica tres áreas básicas donde los sistemas de IA son vulnerables ahora mismo, incluso sin una era completa de computadores cuánticos. Estos no son escenarios teóricos, sino riesgos prácticos para empresas que recopilan datos durante años y luego los utilizan en modelos, asistentes y servicios de IA internos.

• Envenenamiento de datos de entrenamiento — un atacante puede inyectar o alterar datos para que el modelo comience a producir resultados distorsionados, dificultando la detección de la causa.
• Robo o copia de modelos — si un modelo se extrae o reproduce, la empresa pierde propiedad intelectual y ventaja competitiva.
• Divulgación de datos sensibles — los datos utilizados durante el entrenamiento o la inferencia pueden ser interceptados si el entorno y las claves están débilmente protegidos.

Un riesgo adicional involucra el principio de harvest now, decrypt later: datos encriptados pueden ser robados hoy y desencriptados después cuando herramientas cuánticas más poderosas estén disponibles. Por lo tanto, la protección debe cubrir no solo operaciones actuales, sino también archivos, conjuntos de datos y cualquier activo que deba permanecer confidencial durante años.

Cómo Construir la Protección

Según los autores, la criptografía de clave pública existente puede comenzar a perder confiabilidad dentro de la próxima década. Por eso, la migración a algoritmos post-cuánticos no puede retrasarse hasta que el riesgo se generalice: reconstruir protocolos, sistemas de gestión de claves, compatibilidad y rendimiento requiere años.

Los autores señalan directamente que tal migración afectará la interoperabilidad entre sistemas y el rendimiento de la infraestructura. Como estrategia de transición, Utimaco propone crypto-agility — la capacidad de cambiar algoritmos criptográficos sin un rediseño arquitectónico completo, utilizando un enfoque híbrido que combine criptografía clásica y post-cuántica, incluyendo métodos propuestos por NIST.

Pero la criptografía por sí sola no es suficiente. El informe enfatiza por separado el papel de entornos protegidos por hardware y enclaves, que aíslan las claves y operaciones sensibles de la infraestructura ordinaria. En tal esquema, las claves para encriptación de datos y firma de modelos pueden generarse y almacenarse dentro de un perímetro confiable, la integridad del modelo puede verificarse antes del despliegue, y los datos procesados durante la inferencia pueden protegerse. Además, los módulos de hardware permiten atestación externa del entorno y mantienen registros de acceso resistentes a falsificaciones, útiles para cumplir requisitos como la Ley de IA de la UE.

Qué Significa Esto

Para empresas que construyen IA con sus propios datos, la seguridad deja de ser una "capa adicional" y se convierte en parte de la arquitectura del producto. Aquellos que ahora integren migración criptográfica, protección de claves y límites confiables de hardware tendrán una ventaja, en lugar de intentar arreglarlo todo después de la primera brecha seria o después de la llegada de amenazas post-cuánticas.