A principal ameaça de AI vem de dentro: como proteger uma organização

Quando os líderes empresariais pensam em ameaças cibernéticas relacionadas à inteligência artificial, geralmente imaginam um adversário externo — um grupo de hackers armado com redes neurais para gerar e-mails de phishing ou quebrar senhas. Mas a realidade se mostra muito menos cinematográfica e muito mais preocupante. As ameaças de IA mais sérias para os negócios não nascem além do perímetro da rede corporativa, mas dentro dela — nos escritórios, salas de reunião e nos laptops dos próprios funcionários.

O fenômeno da chamada "IA sombra" se tornou um dos problemas determinantes da cibersegurança corporativa em 2025–2026. A essência é simples: funcionários estão usando massivamente ferramentas de IA generativa — ChatGPT, Claude, Gemini, Copilot e dezenas de serviços menos conhecidos — para acelerar processos de trabalho. Eles carregam nesses sistemas documentos internos, dados de clientes, fragmentos de código, relatórios financeiros.

Fazem isso não por má intenção, mas pelo desejo de trabalhar com mais eficiência. Mas cada uma dessas solicitações é uma possível vazamento de informações confidenciais que o serviço de segurança não consegue ver nem controlar. De acordo com diversas estimativas, 50 a 70 por cento do uso de ferramentas de IA em grandes organizações ocorre sem o conhecimento dos departamentos de TI.

O problema é agravado pelo fato de que as próprias empresas estão implementando ativamente IA em processos comerciais, nem sempre estabelecendo um sistema adequado de gerenciamento de riscos. Chatbots corporativos ganham acesso a bancos de dados internos. Assistentes de IA são integrados em sistemas CRM e ferramentas de desenvolvimento. Modelos de aprendizado de máquina são treinados em dados proprietários. Cada um desses pontos de integração é um possível vetor de ataque ou vazamento não intencional. Enquanto isso, as medidas de proteção tradicionais — firewalls, antivírus, sistemas de detecção de intrusão — foram projetadas para um cenário de ameaças completamente diferente e simplesmente não veem esses novos riscos.

Os especialistas identificam várias áreas-chave de defesa interna que as organizações devem estabelecer sistematicamente. A primeira e fundamental é uma auditoria completa das ferramentas de IA usadas na empresa, incluindo as não oficiais. Não é possível proteger aquilo cuja existência você não conhece. A segunda é desenvolver políticas claras de uso aceitável de IA que definam quais dados podem e absolutamente não podem ser transmitidos a serviços de IA externos. A terceira é implementar medidas técnicas de controle: sistemas DLP de próxima geração capazes de rastrear as interações dos funcionários com plataformas de IA e soluções de proxy que filtram o tráfego de saída para serviços de IA.

Um bloco separado de recomendações diz respeito ao gerenciamento de modelos de IA que a empresa desenvolve ou usa internamente. Crítico aqui é o controle de acesso de acordo com o princípio do menor privilégio — o sistema de IA deve ter acesso apenas aos dados necessários para executar uma tarefa específica, e nada mais. Auditorias regulares do que dados são usados para treinamento e ajuste fino de modelos são necessárias, assim como monitoramento de seu comportamento em produção em busca de anomalias — o chamado AI observability.

Igualmente importante é a proteção contra ataques aos próprios modelos: injeção de prompt, envenenamento de dados de treinamento e extração de informações confidenciais através de consultas especialmente construídas se tornaram ameaças reais e documentadas.

O fator humano permanece o elemento central de qualquer estratégia de defesa. O treinamento de funcionários para trabalhar com IA deve incluir não apenas maior produtividade, mas também compreensão dos riscos. As pessoas devem saber por que não é possível fazer upload de um contrato confidencial para um chatbot de IA pública, mesmo que isso acelere a preparação do resumo da transação três vezes. Construir uma cultura de uso responsável de IA é uma tarefa não menos importante do que implementar medidas técnicas de controle. Empresas que se limitam a proibições sem explicação inevitavelmente perdem: os funcionários simplesmente encontram formas de contorno.

Para as organizações russas, esse problema tem uma dimensão adicional. As leis de proteção de dados e os requisitos regulatórios impõem restrições rígidas à transferência transfronteiriça de informações, e a maioria dos serviços populares de IA hospeda seus servidores no exterior. Cada funcionário enviando dados de clientes para um serviço de IA estrangeiro potencialmente cria não apenas um risco de cibersegurança, mas também um risco regulatório. Isso faz da tarefa de controlar o uso interno de IA não apenas uma questão de segurança, mas uma questão de conformidade legal.

A essência do que está acontecendo se reduz a um paradoxo que toda organização tecnologicamente madura enfrentou: IA é simultaneamente uma ferramenta para aumentar a eficiência e uma fonte de riscos fundamentalmente novos. É impossível proibir seu uso — isso seria equivalente a renunciar à eletricidade. Ignorar os riscos é irresponsável. O único caminho viável é o gerenciamento sistemático, em que medidas técnicas de controle, políticas organizacionais e educação de funcionários funcionam como um único mecanismo. Empresas que estabelecerem esse sistema antes de outras ganharão não apenas proteção, mas também uma vantagem competitiva: a capacidade de usar IA agressivamente enquanto permanecem seguras.