O Ministério do Desenvolvimento Digital da Rússia, a UE e o NIST definem novas regras para a segurança e a regulação de AI

A Security Vision publicou uma análise ampla de como um novo sistema de regras, padrões e práticas de proteção está se formando rapidamente em torno do AI. O que vem para o primeiro plano não são apenas as leis, mas também questões bem práticas: vazamentos de dados, prompt injection, roubo de modelos e controle sobre sistemas baseados em agentes.

Como se regula AI

Na Rússia, o ponto de referência básico continua sendo o Decreto nº 490, de 10 de outubro de 2019, e a estratégia atualizada de desenvolvimento de AI até 2030. Depois vieram o regime experimental em Moscou, o projeto de conceito de regulação de AI até 2030 do Ministério do Desenvolvimento Digital e da “AI Alliance”, além do código de ética do banco central para o mercado financeiro. A direção geral é clara: estimular a adoção de AI, mas ao mesmo tempo exigir transparência, proteção de dados, gestão de riscos e supervisão humana.

No exterior, o quadro está ficando mais rígido. Na UE, o EU AI Act já está em vigor, dividindo os sistemas em níveis de risco inaceitável, alto e comum: de proibições diretas para pontuação social e certas práticas biométricas até logs obrigatórios, supervisão humana e requisitos de cibersegurança. Em 2025, os EUA lançaram o AI Action Plan com foco em acelerar a inovação, a infraestrutura e o secure by design. A China está reforçando a rotulagem de conteúdo de AI, a Coreia do Sul e o Cazaquistão adotaram suas próprias leis, e a ONU, a UNESCO e o BRICS estão construindo uma plataforma internacional para regras comuns.

Padrões e controle

Paralelamente às leis, cresce rapidamente uma camada de padrões e frameworks. Na ISO e na IEC, já existem documentos sobre terminologia, gestão de riscos, ciclo de vida do AI, avaliação de robustez e segurança de dados. Na Rússia, novos padrões GOST correspondem a eles, enquanto nos EUA o NIST desenvolve o AI Risk Management Framework, que se tornou um dos esquemas práticos mais visíveis para as empresas. A lógica é simples: não discutir AI no vácuo, mas incorporar os riscos à gestão normal de produto, segurança e desenvolvimento.

• Govern — definir responsáveis, políticas e processos para riscos de AI
• Map — entender o contexto, os cenários de uso e o dano potencial
• Measure — verificar a confiabilidade, a validade e a eficácia das medidas de proteção
• Manage — priorizar riscos, reduzir danos e documentar decisões

Também está se formando uma camada separada de frameworks especializados: o MITRE ATLAS cataloga táticas de ataque contra AI, o OWASP reúne riscos críticos para LLM e sistemas baseados em agentes, o Google desenvolve o SAIF, e grandes fornecedores publicam seus próprios frameworks de safety e preparedness.

Isso importa por um motivo: a segurança de AI já não se resume à proteção do servidor ou da API. Agora é preciso avaliar o comportamento do modelo, a qualidade dos dados, a resistência a manipulações e as consequências para o usuário.

Onde AI é atacado

AI tem sua própria superfície de ataque. Modelos de linguagem de grande porte diferenciam mal dados de instruções, por isso um texto malicioso em uma página da web, em um e-mail ou em um documento pode virar um comando para um agente. Daí surgem ataques diretos e indiretos de prompt injection, jailbreak, extraction e data poisoning. Se o sistema estiver conectado ao e-mail, ao CRM, ao armazenamento de arquivos ou a serviços externos, o custo de um erro cresce bruscamente: o atacante pode não só obter uma resposta estranha, mas também chegar a dados corporativos ou forçar o agente a executar uma ação indesejada.

Outra grande zona de risco são os próprios dados. As empresas enfrentam cada vez mais Shadow AI, um cenário em que funcionários carregam documentos internos em chatbots públicos sem aprovação. A IBM citou uma estimativa segundo a qual 13% das empresas pesquisadas já relataram vazamentos por meio de AI. Soma a isso o roubo de chaves de API para LLM jacking, a possível cópia de modelos via distillation e o problema das alucinações em dados sintéticos, e fica claro por que grounding, zero data retention, MLSecOps e DLP deixaram de ser opcionais.

Uma tendência separada é que os próprios atacantes estão usando ferramentas baseadas em agentes para automatizar invasões e reduzir a barreira de entrada para o cibercrime.

O que isso significa

O mercado de AI entra em uma fase em que vence não quem simplesmente implementou um modelo mais rápido, mas quem consegue provar sua confiabilidade, explicabilidade e segurança. Para os negócios, isso significa uma coisa: AI já não pode ser lançado como “mais um serviço SaaS” — ele precisa de regras de acesso separadas, controle de dados, auditoria de integrações e testes regulares contra ataques.