KiloClaw de Kilo aide les entreprises à reprendre le contrôle du shadow AI et des agents autonomes

Kilo представила KiloClaw — корпоративную платформу, которая помогает брать под контроль автономных AI-агентов, запущенных сотрудниками вне формальных IT-процессов. Продукт адресует растущую проблему shadow AI, когда полезная автоматизация появляется быстрее, чем правила безопасности и закупок.

Почему возникла проблема

За последний год компании в основном закрывали риски вокруг больших языковых моделей: утверждали поставщиков, подписывали договоры и прописывали базовые политики использования. Но параллельно разработчики, аналитики и другие сотрудники, работающие с данными и контентом, начали строить собственные сценарии автоматизации. Вместо официального согласования они поднимают агентов на личной инфраструктуре, подключают рабочие сервисы через личные API-ключи и ускоряют повседневные задачи без участия IT-службы.

Фактически бизнес столкнулся с автоматизацией, которая возникла снизу, а не по приказу сверху. Такой подход называют Bring Your Own AI, или BYOAI. На практике это означает, что корпоративные данные уходят во внешние и плохо контролируемые среды.

Агент, который кажется безобидным помощником для разбора логов или сверки таблиц, может получить доступ к Slack, Jira и приватным репозиториям кода. Если всё это происходит вне поля зрения службы безопасности, у компании появляются слепые зоны для утечки данных и потери интеллектуальной собственности.

Чем агенты опаснее

Ситуация напоминает эпоху BYOD в начале 2010-х, когда сотрудники массово приносили личные смартфоны в рабочую среду, а IT-командам пришлось внедрять мобильное управление устройствами. Но у автономных агентов ставки выше. Смартфон обычно раскрывает уже существующую переписку, а агент получает право действовать: читать, писать, изменять и удалять данные в нескольких системах сразу, причём на скоростях, которые человек не повторит вручную.

Именно поэтому последствия ошибки здесь намного жестче. Дополнительный риск связан с вычислительной инфраструктурой. Даже если сотрудник запускает агент локально, тот может отправлять рабочие данные на внешние inference-серверы для обработки запросов.

Если сторонний провайдер использует поступившие данные для обучения будущих моделей, бизнес теряет контроль над собственным IP и над тем, кто именно видел чувствительную информацию. Для компаний это уже не вопрос удобства, а вопрос архитектурной дисциплины. Причём такой риск возникает даже в невинных на вид рабочих сценариях.

Как работает

KiloClaw KiloClaw пытается не запрещать такие сценарии, а вернуть их в управляемый контур. Платформа создает централизованный слой контроля, где службы безопасности и compliance могут видеть внешние агентные развёртывания, отслеживать их поведение и проверять потоки данных. Ключевая идея в том, что автономных агентов нельзя обслуживать так же, как людей или обычные интеграции между приложениями: они формируют новые запросы по ходу работы и могут неожиданно попросить доступ к ещё одному ресурсу.

• Платформа регистрирует автономных агентов в едином реестре для аудита.
• Вместо постоянных широких API-ключей она выдает краткоживущие и узкие токены доступа.
• Если агент выходит за разрешённый scope, доступ можно автоматически отозвать.
• Службы безопасности получают журнал поведения и движения данных между системами. Такой подход особенно важен для задач, где агент действует последовательно. Например, система, созданная для суммаризации маркетинговых писем, в середине цепочки может попытаться скачать клиентскую базу. Для традиционного IAM это трудно интерпретировать: легитимная операция или подозрительное поведение. KiloClaw делает ставку именно на ограниченные по времени и по правам разрешения, чтобы уменьшить радиус поражения, если модель или скрипт поведут себя непредсказуемо. Это особенно критично для open-source моделей и экспериментальных скриптов.

Как не загнать в тень Полный запрет на самодельную автоматизацию редко работает.

Обычно он просто уводит активность в подполье: сотрудники маскируют трафик, скрывают workflow и ещё меньше делятся с IT-командами тем, что реально используют в работе. Поэтому логика KiloClaw в том, чтобы дать санкционированную среду, где инструмент можно зарегистрировать и продолжить использовать без лишней бюрократии. На практике это только усложняет контроль, если компания выбирает один запретительный подход.

Для этого платформа встраивается в уже существующие процессы разработки и эксплуатации, включая CI/CD-пайплайны. Если проверки безопасности и выдача разрешений автоматизированы, у сотрудников меньше причин обходить правила. Компания, в свою очередь, может заранее определить шаблоны: какие внешние модели допустимы, какие типы данных им можно отдавать и в каких границах агентам разрешено действовать.

На уровне рынка это выглядит как переход от простых политик использования чат-ботов к полноценному управлению оркестрацией, сдерживанию и подотчётности машинных действий. Не случайно концепция «agent firewall» уже начинает превращаться в отдельную статью IT-бюджета.

Что это значит

KiloClaw показывает, что следующая волна корпоративной AI-безопасности будет строиться не вокруг самих моделей, а вокруг автономных исполнителей, которым сотрудники доверяют реальные права в рабочих системах. Для бизнеса это сигнал: если AI-агенты уже помогают командам быстрее работать, их всё равно придётся учитывать как отдельные сущности — с регистрацией, ограничениями и проверяемым контролем. И чем раньше бизнес построит такой слой управления, тем меньше будет цена неизбежных ошибок.