Utimaco: proteger sistemas de IA exige migrar para a criptografia pós-quântica

A Utimaco avalia que, para a IA corporativa, o principal problema já não é a qualidade dos modelos, mas a proteção dos dados com que eles são treinados e operam. A empresa alerta: se a infraestrutura de IA for construída apenas para as ameaças de hoje, em alguns anos será preciso refazê-la para a segurança pós-quântica.

A principal barreira para a adoção

O eBook AI Quantum Resilience afirma que as empresas costumam frear a adoção de IA não por falta de casos de uso, mas pelo risco de vazamento, adulteração ou comprometimento dos próprios dados. Isso é especialmente sensível para organizações que querem treinar modelos com documentos internos, informações financeiras, propriedade intelectual e outros dados que mantêm valor por muito tempo. Quanto mais valiosos os dados, mais caro é o erro: o comprometimento do pipeline de treinamento afeta tanto a qualidade do modelo quanto os riscos jurídicos.

O problema é que as ameaças surgem ao longo de todo o caminho da IA. Não se trata só da fase de inferência, onde normalmente se discutem prompt injection e vazamento de resultados. Os perigos aparecem também na carga de dados, no treinamento, no armazenamento de chaves, na implantação do modelo e na operação posterior. Se uma dessas camadas ficar sem proteção, o atacante ganha um ponto de entrada para o sistema inteiro.

Três zonas de risco

A Utimaco aponta três áreas básicas em que os sistemas de IA já são vulneráveis hoje, mesmo sem uma era plena de computadores quânticos. Não são cenários teóricos, mas riscos práticos para empresas que coletam dados por anos e depois os usam em modelos, assistentes e serviços internos de IA.

• Envenenamento dos dados de treinamento — um atacante pode misturar ou alterar dados para que o modelo passe a gerar resultados distorcidos, e a causa seja difícil de perceber.
• Roubo ou cópia de modelos — se um modelo é extraído ou reproduzido, a empresa perde propriedade intelectual e vantagem competitiva.
• Exposição de dados sensíveis — os dados usados no treinamento ou na inferência podem ser interceptados se o ambiente e as chaves estiverem mal protegidos.

Um risco à parte está ligado ao princípio harvest now, decrypt later: dados criptografados podem ser roubados hoje e decifrados depois, quando surgirem ferramentas quânticas mais potentes. Por isso, é preciso proteger não só as operações atuais, mas também arquivos, datasets e quaisquer ativos que devam permanecer fechados por anos.

Como construir a proteção

Segundo os autores, a criptografia de chave pública existente pode começar a perder a confiabilidade dentro da próxima década. Por isso, a migração para algoritmos pós-quânticos não pode ser adiada até o risco se tornar massivo: refazer protocolos, sistemas de gerenciamento de chaves, compatibilidade e desempenho leva anos. Os autores indicam diretamente que essa migração afetará tanto a interoperabilidade entre sistemas quanto a velocidade da infraestrutura.

Como estratégia de transição, a Utimaco propõe a crypto-agility — a capacidade de trocar algoritmos criptográficos sem refazer toda a arquitetura, com uma abordagem híbrida que combina criptografia clássica e pós-quântica, incluindo métodos propostos pelo NIST.

Mas só a criptografia não basta. O relatório destaca separadamente o papel de ambientes protegidos por hardware e de enclaves, que isolam chaves e operações sensíveis da infraestrutura comum. Nesse esquema, as chaves para criptografar dados e assinar modelos podem ser geradas e armazenadas dentro de um perímetro confiável, a integridade do modelo pode ser verificada antes da implantação e os dados processados durante a inferência podem ser protegidos. Além disso, os módulos de hardware permitem a atestação externa do ambiente e a manutenção de logs de acesso resistentes a adulteração, o que também ajuda no cumprimento de exigências como as do EU AI Act.

O que isso significa

Para as empresas que constroem IA sobre dados próprios, a segurança deixa de ser uma "camada adicional" e passa a fazer parte da arquitetura do produto. Saem na frente as que já incorporam a migração criptográfica, a proteção de chaves e perímetros confiáveis em hardware, em vez de tentar consertar tudo depois do primeiro vazamento grave ou da chegada das ameaças pós-quânticas.