Ministério digital russo, UE e NIST definem novas regras de segurança e regulação de IA

A Security Vision publicou um amplo levantamento sobre como um novo sistema de regras, padrões e práticas de proteção se forma rapidamente em torno da IA. O destaque não vai só para as leis, mas também para questões bem práticas: vazamentos de dados, prompt injection, roubo de modelos e controle de sistemas agênticos.

Como a IA é regulada

Na Rússia, o ponto de partida continua sendo o decreto nº 490, de 10 de outubro de 2019, e a estratégia atualizada de desenvolvimento da IA até 2030. Depois vieram um regime experimental em Moscou, um projeto de conceito de regulação da IA até 2030 do Ministério do Desenvolvimento Digital (Mintsifry) e da «Aliança do Setor de IA», e um código de ética do Banco Central para o mercado financeiro. A direção geral é clara: estimular a adoção da IA, mas exigir ao mesmo tempo transparência, proteção de dados, gestão de riscos e controle humano.

Fora da Rússia, o arcabouço está mais rígido. Na UE, o EU AI Act já está em vigor e divide os sistemas em níveis de risco inaceitável, alto e comum: de proibições diretas para o scoring social e várias práticas biométricas até registros obrigatórios, supervisão humana e requisitos de cibersegurança. Em 2025, os EUA lançaram o AI Action Plan, com ênfase em acelerar a inovação, a infraestrutura e o secure by design. A China reforça a rotulagem de conteúdo de IA, Coreia do Sul e Cazaquistão aprovaram leis próprias, e ONU, UNESCO e BRICS constroem uma plataforma internacional para regras comuns.

Padrões e controle

Em paralelo às leis, cresce rápido uma camada de padrões e frameworks. ISO e IEC já formalizaram documentos sobre terminologia, gestão de riscos, ciclo de vida da IA, avaliação de robustez e segurança de dados. Na Rússia, há novos GOSTs correspondentes, e nos EUA o NIST desenvolve o AI Risk Management Framework, que virou um dos esquemas práticos mais visíveis para as empresas. A lógica é simples: não discutir IA no vácuo, e sim incorporar seus riscos à gestão habitual de produto, segurança e desenvolvimento.

• Govern — definir responsáveis, políticas e processos para os riscos da IA
• Map — entender o contexto, os cenários de uso e o dano potencial
• Measure — verificar a confiabilidade, a validade e a eficácia das medidas de proteção
• Manage — priorizar riscos, reduzir danos e documentar as decisões

Surge ainda uma camada de frameworks especializados: o MITRE ATLAS cataloga táticas de ataque a IA, a OWASP reúne os riscos críticos para LLMs e sistemas agênticos, o Google desenvolve o SAIF e grandes fornecedores publicam seus próprios frameworks de safety e preparedness. Isso importa por um motivo: a segurança de IA não se resume mais a proteger um servidor ou uma API. Agora é preciso avaliar o comportamento do modelo, a qualidade dos dados, a resistência à manipulação e as consequências para o usuário.

Onde a IA é quebrada

A IA tem sua própria superfície de ataque. Grandes modelos de linguagem distinguem mal dados de instruções, então um texto malicioso em uma página web, e-mail ou documento pode virar um comando para um agente. Daí o crescimento de ataques de prompt injection diretos e indiretos, jailbreak, extraction e data poisoning. Se o sistema está conectado a e-mail, CRM, armazenamento de arquivos ou serviços externos, o custo de um erro dispara: o atacante pode ir além de uma resposta estranha e chegar a dados corporativos ou fazer o agente executar uma ação indesejada.

A segunda grande zona de risco são os próprios dados. As empresas enfrentam cada vez mais a Shadow AI, quando funcionários enviam documentos internos a chatbots públicos sem aprovação. A IBM citou uma estimativa segundo a qual 13% das empresas pesquisadas já haviam relatado vazamentos por meio de IA. Somem-se o roubo de chaves de API para LLM jacking, a possível cópia de modelos por destilação e o problema das alucinações com dados sintéticos, e fica claro por que grounding, zero data retention, MLSecOps e DLP deixam de ser opcionais. Outra tendência: os próprios criminosos usam ferramentas agênticas para automatizar invasões e baixar a barreira de entrada no cibercrime.

O que isso significa

O mercado de IA entra numa fase em que vence não quem simplesmente implanta um modelo mais rápido, mas quem sabe provar sua confiabilidade, explicabilidade e segurança. Para as empresas, isso quer dizer uma coisa: a IA não pode mais ser lançada como «mais um serviço SaaS». Ela exige regras de acesso próprias, controle de dados, auditoria das integrações e testes regulares contra ataques.