Utimaco: proteção de sistemas de IA requer transição para criptografia pós-quântica

Utimaco: proteger sistemas de IA requer uma mudança para criptografia pós-quântica

Utimaco acredita que para a IA corporativa, o principal desafio não é mais a qualidade do modelo, mas proteger os dados em que esses modelos são treinados e operam. A empresa alerta: se você construir infraestrutura de IA apenas para as ameaças de hoje, em poucos anos terá que reformulá-la para segurança pós-quântica.

A Principal Barreira para Adoção

No eBook AI Quantum Resilience, observa-se que as empresas frequentemente retardam a implementação de IA não por falta de cenários de uso, mas pelo risco de vazamento, substituição ou comprometimento de seus próprios dados. Isso é especialmente sensível para organizações que desejam treinar modelos em documentos internos, informações financeiras, propriedade intelectual e outras informações com valor de longo prazo. Quanto mais valiosos os dados, maior o custo do erro: comprometer o pipeline de treinamento afeta tanto a qualidade do modelo quanto os riscos legais.

O problema é que as ameaças surgem em todos os estágios do trabalho com IA. Não se trata apenas da fase de inferência, onde injection de prompt e vazamento de resultados são tipicamente discutidos. Os perigos surgem durante o carregamento de dados, treinamento, armazenamento de chaves, implantação do modelo e operação contínua. Se qualquer uma dessas camadas carecer de proteção, um atacante ganha um ponto de entrada no sistema inteiro.

Três Zonas de Risco

Utimaco identifica três áreas básicas onde os sistemas de IA são vulneráveis agora mesmo, sem uma era completa de computadores quânticos. Esses não são cenários teóricos, mas riscos práticos para empresas que coletam dados por anos e depois os usam em modelos, assistentes e serviços de IA internos.

• Envenenamento de dados de treinamento — um atacante pode injetar ou alterar dados para que o modelo comece a produzir resultados distorcidos, dificultando a detecção da causa.
• Roubo ou cópia de modelos — se um modelo é extraído ou reproduzido, a empresa perde propriedade intelectual e vantagem competitiva.
• Divulgação de dados sensíveis — dados usados durante treinamento ou inferência podem ser interceptados se o ambiente e as chaves estiverem fracamente protegidos.

Um risco separado envolve o princípio de harvest now, decrypt later: dados criptografados podem ser roubados hoje e descriptografados depois quando ferramentas quânticas mais poderosas estiverem disponíveis. Portanto, a proteção deve cobrir não apenas operações atuais, mas também arquivos, conjuntos de dados e qualquer ativo que deva permanecer confidencial por anos.

Como Construir Proteção

Segundo os autores, a criptografia de chave pública existente pode começar a perder confiabilidade na próxima década. Por isso, a migração para algoritmos pós-quânticos não pode ser adiada até que o risco se torne generalizado: reconstruir protocolos, sistemas de gerenciamento de chaves, compatibilidade e desempenho leva anos.

Os autores apontam diretamente que tal migração afetará a interoperabilidade entre sistemas e o desempenho da infraestrutura. Como estratégia de transição, Utimaco propõe crypto-agility — a capacidade de mudar algoritmos criptográficos sem uma reformulação arquitetural completa, usando uma abordagem híbrida combinando criptografia clássica e pós-quântica, incluindo métodos propostos pelo NIST.

Mas criptografia sozinha não é suficiente. O relatório enfatiza separadamente o papel de ambientes protegidos por hardware e enclaves, que isolam chaves e operações sensíveis da infraestrutura comum. Em tal esquema, chaves para criptografia de dados e assinatura de modelos podem ser geradas e armazenadas dentro de um perímetro confiável, a integridade do modelo pode ser verificada antes da implantação, e os dados processados durante inferência podem ser protegidos. Além disso, módulos de hardware habilitam atestação externa do ambiente e mantêm registros de acesso resistentes a falsificações, úteis para conformidade com requisitos como a Lei de IA da UE.

O Que Isso Significa

Para empresas que constroem IA em seus próprios dados, segurança deixa de ser uma "camada adicional" e se torna parte da arquitetura do produto. Aqueles que agora incorporam migração criptográfica, proteção de chaves e limites confiáveis de hardware terão uma vantagem, em vez de tentar corrigir tudo após a primeira violação séria ou após a chegada de ameaças pós-quânticas.