IBM: у 92% компаний с AI-инцидентами не было базового контроля доступа

A IBM investigou incidentes de segurança corporativa em sistemas de AI e registrou um padrão que está mudando as prioridades na área de proteção da IA: 92% das empresas que sofreram um incidente desse tipo não tinham controles básicos de acesso às suas ferramentas de AI. Ao mesmo tempo, o próprio modelo — sua arquitetura, pesos ou algoritmo — não foi a causa raiz do problema na maioria dos casos documentados.

Onde a vulnerabilidade realmente surge

92% das empresas com incidentes de AI não restringiam quem podia acessar seus sistemas de AI nem com quais permissões — esse é o dado central da pesquisa da IBM. O controle de acesso, a auditoria de permissões e o monitoramento de requisições ao modelo estavam ausentes exatamente onde deveriam ser a primeira barreira de proteção.

Ao mesmo tempo, os atacantes geralmente não visavam o modelo diretamente. Eles exploravam vetores mais simples: comprometiam uma conta com permissões excessivas, obtinham acesso à interface de AI — e o próprio sistema então fornecia as informações de que precisavam.

• 92% das empresas vítimas de incidentes de AI não tinham controle de acesso suficiente aos sistemas de AI
• O modelo de AI raramente era a causa raiz da violação de segurança
• Principais vetores de ataque: permissões excessivas de usuários e contas de serviço
• A ausência de monitoramento de requisições anômalas a sistemas de AI agravava a escala dos incidentes

O controle de acesso a um sistema de AI não se resume a login e senha. No contexto corporativo, isso significa permissões granulares: quais dados e bases de conhecimento o modelo pode acessar, quais funcionários e contratados têm direito de enviar consultas e em qual volume.

Por que os sistemas de AI se tornaram um alvo atraente

As ferramentas corporativas de AI estão cada vez mais obtendo amplo acesso a dados críticos de negócios: bases de clientes, documentos financeiros, correspondência interna e materiais estratégicos. É exatamente isso que as torna um alvo valioso — não por vulnerabilidades no próprio modelo, mas pelo tipo de dados que podem ser acessados através dele com consultas comuns.

Uma instalação corporativa típica de AI conecta o modelo a documentos, dados de CRM, chats de trabalho e bases de conhecimento. Se não há restrições sobre o que o sistema pode "ver" e entregar em resposta a consultas, a escala de um potencial vazamento de dados é determinada apenas pela amplitude do acesso que a conta comprometida possuía.

"O modelo em si raramente é o problema", conclui a pesquisa da IBM,

que aponta fatores organizacionais e de configuração como a principal causa da maioria dos incidentes de AI documentados.

Por que as medidas básicas continuam não sendo implementadas

A adoção acelerada de AI no ambiente corporativo criou uma situação em que os sistemas de AI são conectados a dados de produção antes que o perímetro de segurança necessário seja estabelecido ao seu redor. As ferramentas são frequentemente percebidas como "mais um SaaS", e não como infraestrutura com acesso a recursos corporativos críticos.

O princípio do menor privilégio (least privilege), a auditoria regular de acesso, o monitoramento de requisições anômalas e a segregação de ambientes de teste e produção não são conceitos novos. A segurança de TI os aplica a CRM, ERP e bancos de dados há décadas. Segundo a IBM, esse passo é sistematicamente ignorado na implantação de sistemas de AI.

O que isso significa

A pesquisa da IBM desloca a conversa sobre segurança de AI do domínio dos riscos algorítmicos para o domínio da maturidade organizacional. As discussões públicas sobre ameaças de AI frequentemente se concentram nas vulnerabilidades dos próprios modelos: prompt injection, alucinações, comportamento imprevisível. Mas o quadro real dos incidentes, segundo a IBM, é diferente: nove em cada dez empresas que enfrentaram uma violação de AI poderiam tê-la evitado com medidas que os profissionais de segurança da informação já aplicam há décadas.

Para CISOs e equipes de TI, esta é a conclusão central: antes de escalar a infraestrutura de AI, é fundamental garantir que os mesmos padrões de controle de acesso aplicados a qualquer outra ferramenta corporativa crítica também estejam em vigor ao seu redor.