MIT Technology Review→ original

Agentes de AI criam uma nova superfície de ataque: como as empresas estão estruturando a defesa

Agentes de AI nas empresas criam uma nova superfície de ataque: sistemas desprotegidos podem ser usados para acessar dados sensíveis. Em várias grandes…

Processado por IA de MIT Technology Review; editado por Hamidun News
Agentes de AI criam uma nova superfície de ataque: como as empresas estão estruturando a defesa
Fonte: MIT Technology Review. Colagem: Hamidun News.
◐ Ouvir artigo

Conforme as empresas implantam em massa agentes de IA para trabalhar ao lado de humanos, elas podem inadvertidamente abrir a porta para novos tipos de ataques cibernéticos. Agentes desprotegidos são suscetíveis a manipulação e podem ganhar acesso a sistemas críticos e segredos comerciais — sem serem detectados pelas equipes de segurança. O problema central reside no conceito de Identidades Não-Humanas (NHI).

São tokens, chaves de API, contas de serviço e outros mecanismos através dos quais sistemas de software — incluindo agentes de IA — se autenticam e interagem com outros serviços. Em vários empreendimentos modernos de grande porte, NHI já superam em número as contas humanas. A transição para IA agentic, segundo previsões da MIT Technology Review, tornará essa lacuna exponencial.

Cada um desses identificadores é um ponto de entrada potencial. Se um agente opera com privilégios excessivos ou suas credenciais são comprometidas, um atacante obtém acesso não apenas a uma conta, mas a toda infraestrutura com a qual o agente interage. Enquanto isso, as ferramentas de monitoramento tradicionais configuradas para rastrear ações humanas simplesmente falham em detectar tais ameaças.

Os especialistas destacam várias direções para construir proteção no nível de agentes. Primeiro — o princípio do menor privilégio: um agente deve ter apenas aqueles direitos necessários para uma tarefa específica, nada mais. Segundo — auditoria e rotação de NHI em pé de igualdade com senhas humanas.

Terceiro — implementar políticas de confiança zero para cada interação de agente: nenhuma solicitação é considerada segura por padrão. Uma ameaça separada é os chamados ataques de prompt injection, nos quais instruções maliciosas são incorporadas nos dados de entrada do agente e o forçam a executar ações não autorizadas. Isso é particularmente perigoso quando o agente tem acesso a bancos de dados corporativos ou ferramentas de automação.

A transição para IA agentic não é meramente uma mudança técnica; é uma ressignificação do próprio modelo de segurança corporativa. Empresas que não estabelecerem gestão de Identidades Não-Humanas agora correm o risco de encontrar brechas que serão extremamente difíceis de atribuir e investigar. Governança para IA agentic está se tornando não uma opção, mas um requisito básico.

ZK
Hamidun News
Notícias de AI sem ruído. Seleção editorial diária de mais de 400 fontes. Produto de Zhemal Khamidun, Head of AI na Alpina Digital.

Quer parar de ler sobre IA e começar a usar?

AI News é um feed curado de notícias de IA. A Hamidun Academy ensina você a usar IA no trabalho.

O que você acha?
Carregando comentários…