Un equipo fintech lanzó un chatbot de AI: conceptos, escollos y lecciones de la implementación de GenAI

Финтех-команда открыто описала путь внедрения генеративного AI-чатбота — от первых экспериментов с промптами до боевого запуска в продакшен. Оказалось, что разрыв между тем, как работает GenAI в демо, и тем, чего он требует в реальном финансовом продукте, — колоссальный.

Финансовый AI — особый случай

Генеративные модели хорошо справляются с широкими, открытыми вопросами. Но финтех-домен предъявляет принципиально иные требования: точность данных, актуальность информации и строгая регуляторная осторожность. Если языковая модель ошибается в рецепте — это неприятно. Если она ошибается в описании банковского продукта или условиях кредита — это юридический риск и потеря доверия клиента. Команда с первых шагов столкнулась с ключевым вопросом: как предотвратить «галлюцинации» там, где каждое слово несёт финансовую ответственность? Ответ оказался нетривиальным и потребовал нескольких итераций архитектуры, прежде чем появился рабочий прототип.

Концепции, которые изменили подход

До написания первой строки кода команде пришлось разобраться с несколькими фундаментальными концепциями, которые плохо описаны в большинстве туториалов: RAG (Retrieval-Augmented Generation) — вместо ответов «из памяти» модель достаёт факты из внешней базы знаний. Без RAG финансовый бот либо придумывает данные, либо отвечает «не знаю» на большинство специфических вопросов. Prompt engineering — системные инструкции, определяющие тон, ограничения и формат ответов.

В финансах это не опция, а обязательный слой контроля поведения системы. Guardrails — защитные механизмы: запрет конкретных инвестиционных советов, требование ссылаться на источники, отказ от точных цифр без верификации. Оценка качества — как измерить, что бот отвечает правильно?

Автоматические метрики часто вводят в заблуждение, а ручная проверка каждого ответа не масштабируется. * Latency vs. quality — более умная модель отвечает медленнее.

В мобильном приложении 7–8 секунд ожидания — уже серьёзная проблема UX и конверсии.

Где возникли неожиданные трудности

Самые болезненные сложности оказались не техническими, а организационными и концептуальными. Границы ответственности. Юридический отдел с самого начала занял чёткую позицию: бот должен информировать, а не давать советы. Это существенно сузило диапазон допустимых ответов и потребовало переосмысления ключевых пользовательских сценариев. Часть задуманных функций пришлось убрать. База знаний. Казалось бы, у финтех-компании полно структурированных документов — тарифы, условия, FAQ. Но при сборке RAG-системы выяснилось: форматы несовместимы, часть информации устарела, данные разрозненны по нескольким системам без единого реестра. Построение качественной базы знаний заняло значительно больше времени, чем сама разработка бота. Пользовательское доверие. Люди охотно задают боту нейтральные вопросы, но осторожничают, когда речь заходит о финансах. Принятие продукта шло медленнее, чем ожидала команда — потребовалась дополнительная работа над UX и формулировками.

«Эта статья написана с целью объяснить концепции и трудности, с

которыми мы с командой столкнулись», — пишут авторы, намеренно обходя технические детали.

Что это значит

История этой команды — точный слепок того, с чем сталкивается большинство компаний при первом серьёзном внедрении GenAI в продукт. Финансовый домен усиливает все риски в несколько раз: юридические, технические, пользовательские. Тем ценнее честный разбор от практиков, которые фиксируют не только успехи, но и неожиданности — те, которых не ждали.