Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
Безопасность и правоAPI / Продукт · В работуAWS Machine Learning Blog→ оригинал

BMW для 12 500 разработчиков вынесла правила ИИ-агентов в CI/CD и общий реестр

В BMW Group 12 500 разработчиков, и сотни команд делают ИИ-агентов по-своему. Чтобы не получить зоопарк, правила безопасности вынесли из кода агентов в CI/CD — конвейер, проверяющий каждую выкатку, — а также в MCP-шлюз и реестр. Черновики документации агент пишет почти сам, а запись в боевую базу требует одобрения человека. Вывод: проверки дешевле встроить сразу, чем потом разгребать «острова ИИ».

AI-обработка оригинала AWS Machine Learning Blog; редакция Hamidun News
BMW для 12 500 разработчиков вынесла правила ИИ-агентов в CI/CD и общий реестр
Источник: AWS Machine Learning Blog. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникAWS Machine Learning Blog ↗
Главный редактор
Уровень 0человек одобряет каждое действие; уровень 2 — лишь в жёстких рамках
Ключевой факт #2Реестр при регистрации сам ищет дубли агентов и навыков у других команд
Ключевой факт #3Оценка качества запускается только после прохождения тестов сборки

В BMW Group в R&D работают более 12 500 разработчиков, и сотни команд по всему миру делают ИИ-агентов — программы на базе языковой модели, которые сами вызывают инструменты и выполняют задачи. Если каждая команда пишет их по-своему, получается зоопарк, который нельзя проверить и обслуживать. Поэтому правила безопасности в BMW не зашиты в код каждого агента.

Они вынесены в три общих места: CI/CD (автоматический конвейер, который проверяет каждое изменение перед выкаткой в продакшен), MCP-шлюз (единая точка, через которую агенты ходят к инструментам) и общий реестр агентов. Представьте агента, который пишет черновики документации, и другого, который обновляет боевую базу данных. Риск у них разный, а проверять оба по одним правилам глупо.

Об этом инженеры BMW рассказали в блоге AWS. Практический смысл для читателя: так можно держать контроль над десятками агентов и не тормозить команды.

Масштаб и главная идея

Контекст впечатляет. В R&D BMW около 500 млн строк кода автомобильного ПО. Бэкенд Connected Vehicle — это более 1 300 микросервисов, которые дают цифровые сервисы для 24 млн машин на дорогах. В регулируемой отрасли планка качества, стабильности и соответствия требованиям очень высока.

Команды должны свободно экспериментировать, но компания обязана держать стандарты безопасности, совместимости и стоимости. Без баланса получаются разрозненные «острова ИИ» и дублирующая работа. Единый фреймворк BMW не навязывает. Правила аутентификации, авторизации, лимитов запросов и фильтрации контента работают на уровне интеграции, а не внутри кода агента. Поэтому они переживают смену фреймворка, замену модели и реорганизацию команд.

Три уровня автономии и проверки вне агента

Уровень доверия BMW назначает каждому шагу, а не агенту целиком:

  • Уровень 0 (human-in-the-loop): человек подтверждает каждое действие. С него стартуют новые агенты и рискованные операции.
  • Уровень 1 (human-on-the-loop): агент действует сам, а человек позже просматривает его решения. Подходит для задач средней опасности, где есть понятные входы, выходы и возможность отката.
  • Уровень 2: агент работает самостоятельно внутри жёстких политик, которые проверяет обычный код, а не просьба в промпте. Уровень оставлен для понятных операций с подтверждённой историей.

Один сценарий может включать шаги всех трёх уровней. Автономию повышают постепенно, опираясь на измеренное качество, а не на ощущения.

Проверки выполняются в CI/CD, вне цикла рассуждений агента: права доступа, правила в виде кода и проверки соответствия блокируют выкатку до продакшена. Ни агент, ни его промпт не могут их отменить. Отдельные egress-контроли — список разрешённых получателей и поиск секретов в исходящих данных — не дают агенту с конфиденциальными данными отправить их через формально законный вызов.

Качество, сборка из блоков и реестр

Агентов BMW строит из трёх слоёв: MCP-инструменты (одна операция, например вызов API), навыки (набор инструментов под доменную задачу, скажем, проверка кода) и потоки (сквозные процессы вроде полного ревью pull request). Каждый слой тестируется отдельно, а их стыки — тестами взаимодействия. Связывают всё открытые стандарты: MCP, Agent Skills, протокол A2A для общения агентов и OpenTelemetry для трассировки.

Любое изменение агента запускает конвейер: правка промпта, новый инструмент, смена модели. Сначала идут быстрые автоматические регрессионные тесты, затем оценка качества ответов по эталонному набору данных с порогами. Порядок намеренный: оценка идёт только на сборке, прошедшей тесты. Агент без трассировки не проходит проверку ещё до оценки.

Перед кодом команда готовит пять артефактов: границы задач агента, модель взаимодействия, чёткое описание инструментов, эталонный датасет и критерии качества. Так BMW борется с перегруженными агентами, у которых раздутый промпт снижает точность и увеличивает задержку. Если агент перерос задачу, его делят на узких специалистов. Они обновляются и масштабируются независимо, а ошибка одного не рушит весь процесс. Узкому агенту часто хватает модели поменьше, что снижает расходы на запуск. Принцип наименьших привилегий выполняется сам: у агента есть доступ только к нужным данным.

Центральный реестр агентов, инструментов и навыков служит каталогом, точкой одобрения с журналом аудита и точкой автоматической проверки безопасности, включая prompt injection. При регистрации он ещё и ищет дубли, которые уже поддерживают другие команды.

Что забрать себе

Начинайте с эталонного датасета и трассировки, а не с оркестрации. Назначайте автономию по шагам. Держите политики в конвейере, а не в промптах. Оговорка: это рассказ самой компании в блоге AWS, и доступный фрагмент оборван на разделе о кодификации через Terraform и CloudFormation. Цифр экономии в нём нет, поэтому эффект оценить нельзя. Но как чек-лист для тех, кто разворачивает агентов в регулируемой отрасли, схема получилась конкретной.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: масштаб и главная идея?

Контекст впечатляет. В R&D BMW около 500 млн строк кода автомобильного ПО. Бэкенд Connected Vehicle — это более 1 300 микросервисов, которые дают цифровые сервисы для 24 млн машин на дорогах. В регулируемой отрасли планка качества, стабильности и соответствия требованиям очень высока. Команды должны свободно экспериментировать, но компания обязана держать стандарты безопасности, совместимости и стоимости. Без баланса получаются разрозненные «острова ИИ» и дублирующая работа. Единый фреймворк BMW не навязывает.

Что известно по теме: три уровня автономии и проверки вне агента?

Уровень доверия BMW назначает каждому шагу, а не агенту целиком: Уровень 0 (human-in-the-loop): человек подтверждает каждое действие. С него стартуют новые агенты и рискованные операции. Уровень 1 (human-on-the-loop): агент действует сам, а человек позже просматривает его решения. Подходит для задач средней опасности, где есть понятные входы, выходы и возможность отката. Уровень 2: агент работает самостоятельно внутри жёстких политик, которые проверяет обычный код, а не просьба в промпте.

Что известно по теме: качество, сборка из блоков и реестр?

Агентов BMW строит из трёх слоёв: MCP-инструменты (одна операция, например вызов API), навыки (набор инструментов под доменную задачу, скажем, проверка кода) и потоки (сквозные процессы вроде полного ревью pull request). Каждый слой тестируется отдельно, а их стыки — тестами взаимодействия. Связывают всё открытые стандарты: MCP, Agent Skills, протокол A2A для общения агентов и OpenTelemetry для трассировки. Любое изменение агента запускает конвейер: правка промпта, новый инструмент, смена модели.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Практика · Hamidun Academy

Соберите рабочего ИИ-агента или сервис своими руками без ручного кода

В Академии Жемала Хамидуна (academy.hamidun.com) открыт бесплатный 72-часовой тест-драйв: интерактивные скетч-уроки по Claude Code и Cursor, живой Tech Radar и готовые шаблоны агентов.

Открыть 72ч бесплатный доступ →Интенсив по Вайб-кодингу
Что вы думаете?
Загружаем комментарии…