KiloClaw de Kilo aide les entreprises à reprendre le contrôle du shadow AI et des agents autonomes

Kilo a présenté KiloClaw — une plateforme d'entreprise qui aide les organisations à contrôler les agents d'IA autonomes lancés par les employés en dehors des processus informatiques formels. Le produit aborde le problème croissant de l'IA fantôme, où l'automatisation utile émerge plus vite que les règles de sécurité et d'approvisionnement.

Pourquoi le Problème Est Apparu

Au cours de l'année écoulée, les entreprises ont principalement atténué les risques autour des grands modèles de langage : elles vérifient les fournisseurs, signent des contrats et établissent des politiques d'utilisation de base. Mais en parallèle, les développeurs, analystes et autres employés travaillant avec des données et du contenu ont construit leurs propres scénarios d'automatisation. Au lieu de demander une approbation officielle, ils déploient des agents sur une infrastructure personnelle, connectent les services professionnels à l'aide de clés API personnelles et accélèrent les tâches quotidiennes sans impliquer le département informatique.

Effectivement, les entreprises ont rencontré une automatisation qui a émergé de bas en haut plutôt que d'un mandat de haut en bas. Cette approche s'appelle Bring Your Own AI, ou BYOAI. En pratique, cela signifie que les données d'entreprise s'écoulent dans des environnements externes et mal contrôlés.

Un agent qui semble être un assistant inoffensif pour l'analyse des journaux ou la réconciliation des feuilles de calcul peut accéder à Slack, Jira et aux référentiels de code privés. Si tout cela se produit hors de la vue de l'équipe de sécurité, l'entreprise développe des points aveugles pour les fuites de données et la perte de propriété intellectuelle.

Pourquoi les Agents Sont Plus Dangereux

La situation rappelle l'ère BYOD du début des années 2010, lorsque les employés apportaient massivement des smartphones personnels dans l'environnement de travail, forçant les équipes informatiques à mettre en place la gestion des appareils mobiles. Mais les enjeux sont plus élevés avec les agents autonomes. Un smartphone expose généralement une correspondance existante, tandis qu'un agent obtient le droit d'agir : lire, écrire, modifier et supprimer des données dans plusieurs systèmes simultanément, à des vitesses qu'aucun humain ne pourrait reproduire manuellement.

C'est pourquoi les conséquences des erreurs sont beaucoup plus graves. Un risque supplémentaire provient de l'infrastructure informatique. Même si un employé exécute localement un agent, celui-ci peut envoyer des données professionnelles à des serveurs d'inférence externes pour traiter les demandes.

Si un fournisseur tiers utilise les données reçues pour entraîner des modèles futurs, l'entreprise perd le contrôle sur sa propre PI et sur qui exactement a vu les informations sensibles. Pour les entreprises, ce n'est plus une question de commodité, mais de discipline architecturale. Et ces risques émergent même dans des scénarios de travail apparemment inoffensifs.

Comment Fonctionne KiloClaw

KiloClaw essaie non pas d'interdire de tels scénarios, mais de les ramener sous un contrôle géré. La plateforme crée une couche de contrôle centralisée où les équipes de sécurité et de conformité peuvent voir les déploiements d'agents externes, surveiller leur comportement et auditer les flux de données. L'idée clé est que les agents autonomes ne peuvent pas être gérés de la même manière que les personnes ou les intégrations inter-applications ordinaires : ils génèrent de nouvelles demandes au fur et à mesure qu'ils opèrent et peuvent inopinément demander l'accès à une autre ressource.

• La plateforme enregistre les agents autonomes dans un registre d'audit unique.
• Au lieu de clés API permanentes et larges, elle émet des jetons d'accès de courte durée et de portée étroite.
• Si un agent dépasse sa portée autorisée, l'accès peut être automatiquement révoqué.
• Les équipes de sécurité reçoivent un journal du comportement et du mouvement des données entre les systèmes.

Cette approche est particulièrement importante pour les tâches où un agent agit séquentiellement. Par exemple, un système construit pour résumer les e-mails marketing pourrait, au milieu de la chaîne, tenter de télécharger une base de données client. Pour les IAM traditionnels, c'est difficile à interpréter : opération légitime ou comportement suspect ? KiloClaw mise sur des permissions limitées dans le temps et en droits pour réduire le rayon d'impact si un modèle ou un script se comporte de manière inattendue. Ceci est particulièrement critique pour les modèles open-source et les scripts expérimentaux.

Comment Ne Pas le Conduire à la Clandestinité

Une interdiction complète de l'automatisation fabriquée maison fonctionne rarement. Habituellement, elle pousse simplement l'activité à la clandestinité : les employés masquent le trafic, cachent les flux de travail et partagent encore moins avec les équipes informatiques sur ce qu'ils utilisent réellement dans leur travail. La logique de KiloClaw est donc de fournir un environnement autorisé où un outil peut être enregistré et continuer à être utilisé sans bureaucratie excessive.

En pratique, cela ne fait que compliquer le contrôle si l'entreprise choisit une approche unique restrictive. Pour cela, la plateforme s'intègre dans les processus de développement et d'exploitation existants, y compris les pipelines CI/CD. Si les vérifications de sécurité et l'octroi de permissions sont automatisés, les employés ont moins de raisons de contourner les règles.

L'entreprise, à son tour, peut prédéfinir des modèles : quels modèles externes sont acceptables, quels types de données ils peuvent recevoir et dans quelles limites les agents sont autorisés à opérer. Au niveau du marché, cela ressemble à un passage de simples politiques d'utilisation de chatbot à la gestion complète de l'orchestration, du confinement et de la responsabilisation des actions des machines. Ce n'est pas une coïncidence si le concept de « pare-feu d'agents » devient déjà un poste budgétaire distinct dans les budgets informatiques.

Qu'Est-ce Que Cela Signifie

KiloClaw démontre que la prochaine vague de sécurité de l'IA d'entreprise sera construite non pas autour des modèles eux-mêmes, mais autour des exécutants autonomes auxquels les employés confient de vrais droits dans les systèmes de travail. Pour les entreprises, c'est un signal : si les agents d'IA aident déjà les équipes à travailler plus vite, ils devront quand même être comptabilisés comme des entités distinctes — avec enregistrement, restrictions et contrôle vérifiable. Et plus tôt une entreprise construira une telle couche de gestion, plus bas sera le coût des erreurs inévitables.