KiloClaw de Kilo ayuda a las empresas a poner bajo control el shadow AI y los agentes autónomos

Kilo ha presentado KiloClaw — una plataforma empresarial que ayuda a las organizaciones a controlar agentes de IA autónomos lanzados por empleados fuera de los procesos formales de TI. El producto aborda el creciente problema de la IA en la sombra, cuando la automación útil emerge más rápido que las reglas de seguridad y compras.

Por Qué Surgió el Problema

Durante el último año, las empresas han mitigado principalmente los riesgos en torno a los grandes modelos de lenguaje: verifican proveedores, firman contratos y establecen políticas básicas de uso. Pero en paralelo, desarrolladores, analistas y otros empleados que trabajan con datos y contenido han estado construyendo sus propios escenarios de automación. En lugar de buscar aprobación oficial, despliegan agentes en infraestructura personal, conectan servicios comerciales utilizando claves de API personales y aceleran tareas cotidianas sin involucrar al departamento de TI.

Efectivamente, las empresas han enfrentado automación que emergió de abajo hacia arriba, en lugar de un mandato de arriba hacia abajo. Este enfoque se llama Bring Your Own AI, o BYOAI. En la práctica, significa que los datos corporativos fluyen hacia entornos externos y poco controlados.

Un agente que parece ser un asistente inofensivo para analizar registros o conciliar hojas de cálculo puede obtener acceso a Slack, Jira y repositorios de código privados. Si todo esto ocurre fuera de la vista del equipo de seguridad, la empresa desarrolla puntos ciegos para filtraciones de datos y pérdida de propiedad intelectual.

Por Qué los Agentes Son Más Peligrosos

La situación recuerda la era BYOD de principios de los 2010, cuando los empleados masivamente traían smartphones personales al entorno laboral, obligando a los equipos de TI a implementar la gestión de dispositivos móviles. Pero las apuestas son más altas con agentes autónomos. Un smartphone normalmente expone correspondencia existente, mientras que un agente obtiene el derecho de actuar: leer, escribir, modificar y eliminar datos en múltiples sistemas simultáneamente, a velocidades que ningún humano podría replicar manualmente.

Por eso las consecuencias de los errores son mucho más graves. Un riesgo adicional proviene de la infraestructura computacional. Incluso si un empleado ejecuta un agente localmente, puede enviar datos de trabajo a servidores de inferencia externos para procesar solicitudes.

Si un proveedor de terceros utiliza los datos recibidos para entrenar modelos futuros, el negocio pierde el control sobre su propia PI y sobre quién exactamente vio información sensible. Para las empresas, esto ya no es un tema de conveniencia, sino de disciplina arquitectónica. Y tales riesgos surgen incluso en escenarios laborales aparentemente inocuos.

Cómo Funciona KiloClaw

KiloClaw intenta no prohibir tales escenarios, sino devolverlos al control gestionado. La plataforma crea una capa de control centralizada donde los equipos de seguridad y compliance pueden ver despliegues de agentes externos, monitorear su comportamiento y auditar flujos de datos. La idea clave es que los agentes autónomos no se pueden gestionar de la misma manera que las personas o las integraciones inter-aplicaciones ordinarias: generan nuevas solicitudes mientras operan y pueden inesperadamente solicitar acceso a otro recurso más.

• La plataforma registra agentes autónomos en un único registro de auditoría.
• En lugar de claves de API permanentes y amplias, emite tokens de acceso de corta duración y alcance restringido.
• Si un agente excede su alcance permitido, el acceso se puede revocar automáticamente.
• Los equipos de seguridad reciben un registro de comportamiento y movimiento de datos entre sistemas.

Este enfoque es especialmente importante para tareas donde un agente actúa secuencialmente. Por ejemplo, un sistema construido para resumir correos de marketing podría, a mitad de la cadena, intentar descargar una base de datos de clientes. Para IAM tradicional, esto es difícil de interpretar: ¿operación legítima o comportamiento sospechoso? KiloClaw apuesta por permisos limitados en tiempo y derechos para reducir el radio de impacto si un modelo o script se comporta inesperadamente. Esto es especialmente crítico para modelos de código abierto y scripts experimentales.

Cómo No Conducirlo a la Clandestinidad

Una prohibición completa de la automación casera rara vez funciona. Usualmente simplemente impulsa la actividad a la clandestinidad: los empleados enmascaran el tráfico, ocultan flujos de trabajo y comparten aún menos con los equipos de TI sobre lo que realmente usan en su trabajo. Entonces la lógica de KiloClaw es proporcionar un entorno autorizado donde una herramienta puede ser registrada y continuar usándose sin burocracia excesiva.

En la práctica, esto solo complica el control si la empresa elige un único enfoque restrictivo. Para esto, la plataforma se integra en procesos de desarrollo y operaciones existentes, incluidos pipelines de CI/CD. Si las verificaciones de seguridad y la concesión de permisos están automatizadas, los empleados tienen menos razones para eludir las reglas.

La empresa, a su vez, puede predefinir plantillas: qué modelos externos son aceptables, qué tipos de datos pueden recibir y dentro de qué límites los agentes pueden operar. A nivel de mercado, esto se parece a un cambio de políticas simples de uso de chatbot a la gestión completa de orquestración, contención y responsabilidad de las acciones de máquina. No es una coincidencia que el concepto de "cortafuegos de agentes" ya se está convirtiendo en un elemento de línea separado en presupuestos de TI.

Qué Significa Esto

KiloClaw demuestra que la próxima ola de seguridad de IA empresarial se construirá no alrededor de los modelos en sí, sino alrededor de ejecutores autónomos a los cuales los empleados confían derechos reales en sistemas de trabajo. Para los negocios, esta es una señal: si los agentes de IA ya ayudan a los equipos a trabajar más rápido, aún necesitarán ser contabilizados como entidades separadas — con registro, restricciones y control verificable. Y cuanto antes construya una empresa tal capa de gestión, menor será el costo de los errores inevitables.