A principal ameaça da IA vem de dentro: como proteger a organização

Quando executivos pensam em ameaças cibernéticas ligadas à inteligência artificial, geralmente imaginam um adversário externo: um grupo hacker armado com redes neurais para gerar e-mails de phishing ou quebrar senhas. A realidade é bem menos cinematográfica e muito mais preocupante. As ameaças de IA mais sérias para as empresas nascem não fora do perímetro da rede corporativa, mas dentro dela: nas salas, nas reuniões e nos notebooks de trabalho dos próprios funcionários.

O fenômeno chamado "shadow AI" (IA invisível) tornou-se um dos problemas centrais da segurança cibernética corporativa em 2025–2026. A ideia é simples: funcionários usam em massa ferramentas de IA generativa, como ChatGPT, Claude, Gemini, Copilot e dezenas de serviços menos conhecidos, para acelerar o trabalho. Eles enviam a esses sistemas documentos internos, dados de clientes, trechos de código e relatórios financeiros. Fazem isso sem má intenção, apenas para trabalhar com mais eficiência. Mas cada uma dessas solicitações é um possível vazamento de informação confidencial que a equipe de segurança não vê nem controla. Segundo diversas estimativas, de 50 a 70 por cento do uso de ferramentas de IA em grandes organizações acontece sem o conhecimento dos departamentos de TI.

O problema se agrava porque as próprias empresas incorporam a IA aos processos de negócio sem nem sempre montar um sistema adequado de gestão de riscos. Chatbots corporativos ganham acesso a bancos de dados internos. Assistentes de IA são integrados a sistemas de CRM e a ferramentas de desenvolvimento. Modelos de machine learning são treinados com dados proprietários. Cada um desses pontos de integração é um possível vetor de ataque ou de vazamento não intencional. Enquanto isso, as defesas tradicionais, como firewalls, antivírus e sistemas de detecção de intrusão, foram projetadas para um cenário de ameaças bem diferente e simplesmente não enxergam esses novos riscos.

Os especialistas destacam algumas frentes principais de defesa interna que as organizações devem construir de forma sistêmica. A primeira, e fundamental, é uma auditoria completa das ferramentas de IA usadas na empresa, inclusive as não oficiais. Não dá para proteger o que não se sabe que existe. A segunda é criar políticas claras de uso aceitável da IA, definindo quais dados podem e quais não podem, de forma alguma, ser enviados a serviços externos de IA. A terceira é implantar controles técnicos: sistemas de DLP de nova geração, capazes de rastrear a interação dos funcionários com plataformas de IA, e soluções de proxy que filtrem o tráfego de saída para serviços de IA.

Um bloco separado de recomendações trata da gestão dos modelos de IA que a empresa desenvolve ou usa internamente. Aqui é crítico o controle de acesso pelo princípio do menor privilégio: o sistema de IA deve ter acesso apenas aos dados necessários para a tarefa específica, e a nada além disso. É preciso auditar regularmente quais dados são usados no treinamento e no ajuste fino dos modelos, além de monitorar o comportamento deles em produção para detectar anomalias, o chamado AI observability. Igualmente importante é a proteção contra ataques aos próprios modelos: injeção de prompt, envenenamento dos dados de treinamento e extração de informações confidenciais por meio de consultas especialmente elaboradas já são ameaças reais e documentadas.

O fator humano continua sendo o elemento central de qualquer estratégia de defesa. O treinamento dos funcionários no uso de IA deve incluir não só o ganho de produtividade, mas também a compreensão dos riscos. As pessoas precisam saber por que não devem enviar um contrato confidencial a um chatbot de IA público, mesmo que isso acelere em três vezes a preparação do resumo de um negócio. Formar uma cultura de uso responsável da IA é tão importante quanto implantar controles técnicos. Empresas que se limitam a proibições sem explicações inevitavelmente perdem: os funcionários simplesmente encontram atalhos.

Para as organizações russas, esse tema tem uma dimensão adicional. A lei de dados pessoais e as exigências dos reguladores impõem limites rígidos à transferência transfronteiriça de informações, enquanto a maioria dos serviços de IA populares hospeda seus servidores no exterior. Cada funcionário que envia dados de clientes a um serviço de IA estrangeiro cria potencialmente não só um risco cibernético, mas também regulatório. Isso faz do controle do uso interno da IA não apenas uma questão de segurança, mas de conformidade jurídica.

O que está acontecendo se resume a um paradoxo enfrentado por toda organização tecnologicamente madura: a IA é ao mesmo tempo uma ferramenta de eficiência e uma fonte de riscos fundamentalmente novos. Proibir seu uso não é possível; seria o mesmo que abrir mão da eletricidade. Ignorar os riscos é irresponsável. O único caminho viável é a gestão sistêmica, em que controles técnicos, políticas organizacionais e educação dos funcionários funcionem como um mecanismo único. As empresas que construírem esse sistema antes das outras terão não só proteção, mas também vantagem competitiva: a possibilidade de usar a IA de forma agressiva e, ao mesmo tempo, segura.