KiloClaw, da Kilo, ajuda empresas a colocar o shadow AI e os agentes autônomos sob controle

A Kilo apresentou o KiloClaw — uma plataforma corporativa que ajuda organizações a controlar agentes de IA autônomos lançados por funcionários fora dos processos formais de TI. O produto aborda o crescente problema da IA em sombra, quando a automação útil emerge mais rápido que as regras de segurança e compras.

Por que o Problema Surgiu

No último ano, as empresas mitigaram principalmente os riscos em torno dos grandes modelos de linguagem: verificam fornecedores, assinam contratos e estabelecem políticas básicas de uso. Mas em paralelo, desenvolvedores, analistas e outros funcionários que trabalham com dados e conteúdo têm construído seus próprios cenários de automação. Em vez de buscar aprovação oficial, eles implantam agentes em infraestrutura pessoal, conectam serviços comerciais usando chaves de API pessoais e aceleram tarefas cotidianas sem envolver o departamento de TI.

Efetivamente, as empresas enfrentaram automação que emergiu de baixo para cima, em vez de um mandato de cima para baixo. Essa abordagem é chamada Bring Your Own AI, ou BYOAI. Na prática, significa que dados corporativos fluem para ambientes externos e mal controlados.

Um agente que parece ser um auxiliar inofensivo para análise de logs ou reconciliação de planilhas pode ganhar acesso a Slack, Jira e repositórios privados de código. Se tudo isso ocorre fora da vista da equipe de segurança, a empresa desenvolve pontos cegos para vazamentos de dados e perda de propriedade intelectual.

Por que Agentes São Mais Perigosos

A situação se assemelha à era BYOD do início dos anos 2010, quando funcionários massivamente traziam smartphones pessoais para o ambiente de trabalho, forçando as equipes de TI a implementar gerenciamento de dispositivos móveis. Mas as apostas são mais altas com agentes autônomos. Um smartphone normalmente expõe correspondência existente, enquanto um agente ganha o direito de agir: ler, escrever, modificar e deletar dados em múltiplos sistemas simultaneamente, em velocidades que nenhum humano poderia replicar manualmente.

É por isso que as consequências dos erros são muito mais graves. Um risco adicional decorre da infraestrutura computacional. Mesmo que um funcionário execute um agente localmente, ele pode enviar dados de trabalho para servidores de inferência externos para processamento de solicitações.

Se um provedor terceirizado usar os dados recebidos para treinar modelos futuros, o negócio perde controle sobre seu próprio IP e sobre quem exatamente viu informações sensíveis. Para empresas, isso não é mais uma questão de conveniência, mas de disciplina arquitetônica. E tais riscos emergem mesmo em cenários de trabalho aparentemente inofensivos.

Como o KiloClaw Funciona

O KiloClaw tenta não proibir tais cenários, mas trazê-los de volta sob controle gerenciado. A plataforma cria uma camada de controle centralizada onde equipes de segurança e compliance podem ver implantações de agentes externos, monitorar seu comportamento e auditar fluxos de dados. A ideia-chave é que agentes autônomos não podem ser gerenciados da mesma forma que pessoas ou integrações inter-aplicações ordinárias: eles geram novas solicitações conforme operam e podem inesperadamente solicitar acesso a ainda outro recurso.

• A plataforma registra agentes autônomos em um único registro de auditoria.
• Em vez de chaves de API permanentes e amplas, ela emite tokens de acesso de vida curta e escopo restrito.
• Se um agente exceder seu escopo permitido, o acesso pode ser automaticamente revogado.
• As equipes de segurança recebem um log de comportamento e movimento de dados entre sistemas.

Essa abordagem é especialmente importante para tarefas onde um agente age sequencialmente. Por exemplo, um sistema construído para resumir e-mails de marketing pode, no meio da cadeia, tentar baixar uma base de dados de clientes. Para IAM tradicional, isso é difícil de interpretar: operação legítima ou comportamento suspeito? O KiloClaw aposta em permissões limitadas em tempo e direitos para reduzir o raio de impacto se um modelo ou script se comportar inesperadamente. Isso é especialmente crítico para modelos de código aberto e scripts experimentais.

Como Não o Conduzir Para a Clandestinidade

Uma proibição completa de automação caseira raramente funciona. Geralmente, apenas impulsiona a atividade para a clandestinidade: funcionários mascaram tráfego, ocultam fluxos de trabalho e compartilham ainda menos com equipes de TI sobre o que realmente usam em seu trabalho. Então a lógica do KiloClaw é fornecer um ambiente autorizado onde uma ferramenta pode ser registrada e continuar sendo usada sem burocracia excessiva.

Na prática, isso apenas complica o controle se a empresa escolher uma única abordagem restritiva. Para isso, a plataforma se integra aos processos de desenvolvimento e operações existentes, incluindo pipelines de CI/CD. Se verificações de segurança e concessão de permissões são automatizadas, os funcionários têm menos razões para contornar as regras.

A empresa, por sua vez, pode predefinir templates: quais modelos externos são aceitáveis, quais tipos de dados eles podem receber e dentro de quais limites os agentes têm permissão para operar. No nível de mercado, isso parece uma mudança de políticas de uso simples de chatbot para gerenciamento completo de orquestração, contenção e responsabilização para ações de máquina. Não é coincidência que o conceito de "firewall de agentes" já está se tornando um item de linha separado em orçamentos de TI.

O Que Isso Significa

O KiloClaw demonstra que a próxima onda de segurança de IA corporativa será construída não em torno dos modelos em si, mas em torno de executores autônomos aos quais os funcionários confiam direitos reais em sistemas de trabalho. Para negócios, este é um sinal: se agentes de IA já ajudam equipes a trabalhar mais rápido, eles ainda precisarão ser contabilizados como entidades separadas — com registro, restrições e controle verificável. E quanto mais cedo um negócio construir tal camada de gerenciamento, menor será o custo de erros inevitáveis.