Arca поручила ИИ-агентам финзадачи длиной до 10 дней, а сделки оставила людям

Arca — «AI-native» компания, которая оказывает услуги по управлению капиталом, и почти всю фоновую работу там выполняют ИИ-агенты. Один сценарий может занимать до десяти дней: это не непрерывная работа, а долгий календарный процесс с паузами, многими участниками и передачами. Ведущий ИИ-инженер Аман Сингх рассказал на конференции AI Engineer в Нью-Йорке, что последнее слово всё равно остаётся за живыми советниками. Он сформулировал это так: «агенты подсказывают людям чаще, чем люди — агентам». Недавно Arca привлекла $48,5 млн в раунде под руководством General Catalyst; в нём также участвовали Index Ventures и Venrock.

Долгий горизонт вместо долгой работы

Сингх различает две вещи: задачи в финансах длинные по календарю, но агент при этом не крутится без остановки. По его словам, работа идёт рывками: между шагами много действующих лиц, точек принятия решений и передач. Один из примеров, разобранных в подкасте, — налоговый счёт на $100 000, где агенты готовят анализ, а одобрения даёт человек.

Чтобы агент не терял нить на таком отрезке, в компании построили собственную систему памяти. Для каждого клиента она фиксирует, что уже произошло, что отслеживается дальше, что нужно сделать в ближайшие пару дней и что важно для долгой перспективы. Отдельно записано, какой именно человек отвечает за какое действие. Агенты не только читают эту память, но и сами её пополняют.

Своя обвязка и выбор моделей

Arca использует модели фронтирных лабораторий, прежде всего Anthropic и OpenAI, а основным поставщиком остаётся Claude. Модель под конкретную задачу выбирает не инженер вручную: этим занимается собственная обвязка (harness), опирающаяся на внутренние бенчмарки компании.

Владение обвязкой Сингх объясняет гибкостью. Управляемый агентный харнесс от вендора привязывает команду к его моделям, а своя инфраструктура позволяет сменить провайдера, если это понадобится.

Есть и контур самоулучшения. Обратная связь от советников и трассы работы агентов собираются вместе, а «мета-агент» анализирует их и предлагает изменения в обвязке. В подкасте обсуждается и превращение отзывов сотрудников в эвалы — регулярные проверки качества.

Детерминированные ограничения и песочницы

Для финансовой сферы безопасность — условие входа. Роль агента в Arca ограничена анализом и предложением решений. Торговля и любое движение денег остаются за советником-человеком. «Все наши ограничения безопасности полностью детерминированы, — говорит Сингх. — Они снимают принятие решений с агента». Часть инструментов агент вызывает сам, но всё, что несёт риск для клиента, ему недоступно. Компания также проверяет известные уязвимости ИИ-систем, в том числе промпт-инъекции.

Сам агент в песочнице не работает, но вычисления выполняет именно там. Для доступа к данным придуман дополнительный слой защиты. Код, который агент написал в песочнице, переводится в строгий ожидаемый формат, а исходный код выбрасывается. На этот формат накладываются ограничения до того, как запрос дойдёт до бэкенда. Агенты могут запрашивать данные кодом, агрегировать и преобразовывать их по своему усмотрению, например чтобы составить финансовый план.

Что можно взять в работу

Опыт Arca — практичный шаблон для отраслей с высокой ценой ошибки. Память лучше строить вокруг клиента или дела, а не вокруг диалога: тогда многодневный процесс переживает паузы и передачу между людьми. Разрешения стоит закреплять правилами в коде, а не инструкциями в промпте. Перевод написанного агентом кода в проверяемый промежуточный формат снимает часть рисков, связанных с песочницами.

Оговорки тоже есть. Материал — пересказ интервью и презентации, а не независимый аудит: данных об ошибках агентов, экономии времени советников или числе клиентов нет. Среди тем подкаста упомянуты комплаенс и аудируемость «по умолчанию», проактивная работа с клиентами и поиск скрытых комиссий, но подробностей в тексте нет. Общая картина ясна: в долгой работе с деньгами агент готовит решение и напоминает человеку о следующем шаге, а решает всё равно человек.