Разработчик собрал локальный RAG на Qdrant и LlamaIndex для поиска по закупочным законам
Разработчик Владимир рассказал на Habr, как собрал RAG-систему, работающую полностью в локальном контуре — без обращения к внешним облачным сервисам. Систему построили на связке LlamaIndex и векторной базы Qdrant, чтобы быстро находить ответы в объёмном Положении о закупках компании и в законах ФЗ-44 и ФЗ-223. Поверх RAG написали собственный API и веб-интерфейс на Gradio.
AI-обработка оригинала Habr AI; редакция Hamidun News
Разработчик, публикующийся на Habr под именем Владимир, описал, как собрал локальную RAG-систему на базе LlamaIndex и векторной базы данных Qdrant, чтобы не копаться вручную в Положении о закупках компании и в профильных законах ФЗ-44 и ФЗ-223.
Зачем понадобился локальный RAG
Автор объясняет, что задача возникла из практической необходимости: искать нужные формулировки и условия вручную в объёмных нормативных документах о закупках — Положении о закупках компании, а также федеральных законах ФЗ-44 (о контрактной системе в сфере госзакупок) и ФЗ-223 (о закупках отдельными видами юридических лиц) — долго и неудобно. RAG-система (retrieval-augmented generation, генерация ответов с опорой на найденные в документах фрагменты) позволяет задавать вопросы на естественном языке и получать ответ, построенный на реальном тексте нормативных документов, а не на догадках модели.
Ключевое требование — система должна была остаться полностью в локальном контуре, без обращения к внешним облачным API. Для работы с закупочной документацией, где часто фигурируют внутренние коммерческие условия, это принципиальный момент.
Из чего собрана система
- LlamaIndex — фреймворк для индексации документов и построения запросов к ним, применённый автором впервые
- Qdrant — векторная база данных с открытым исходным кодом для хранения эмбеддингов документов
- Собственный API поверх связки LlamaIndex и Qdrant
- Веб-интерфейс на Gradio для удобного взаимодействия с системой
- Источники данных — Положение о закупках компании, ФЗ-44 и ФЗ-223
Автор подробно разбирает процесс сборки — от индексации документов до написания API и интерфейса, — фактически предлагая читателям Habr готовый шаблон для похожих задач с локальными юридическими и нормативными базами.
Почему выбрали именно эту связку
Qdrant выделяется среди векторных баз тем, что распространяется с открытым исходным кодом и может быть развёрнут полностью локально — без обязательной привязки к облачному сервису. Это делает связку с LlamaIndex удобным выбором именно для сценариев, где данные не должны покидать инфраструктуру компании: юридические и закупочные документы, внутренние регламенты, коммерческие условия с контрагентами. LlamaIndex в этой конструкции отвечает за разбиение документов на фрагменты, построение индекса и формирование запросов к языковой модели с опорой на найденные фрагменты, а Gradio даёт закупщикам и юристам простой веб-интерфейс, не требующий работы с кодом или консолью напрямую.
Что дальше с проектом
Автор представляет статью как разбор конкретного, воспроизводимого кейса, а не законченный коммерческий продукт: он подробно показывает шаги сборки системы, чтобы читатели Habr могли повторить решение под собственные внутренние документы — будь то другие нормативные акты, регламенты или база договоров. Такой формат статьи типичен для инженерного сообщества Habr, где ценность материала не в готовом сервисе, а в прозрачно показанном пути от постановки задачи до рабочего прототипа.
Что это значит
Этот кейс — практичный пример того, как RAG на связке открытых инструментов вроде LlamaIndex и Qdrant опускается с уровня исследовательских демо до рутинной корпоративной задачи: поиска по внутренним регламентам и профильному законодательству без передачи чувствительных данных во внешние облачные сервисы. Для компаний, работающих с госзакупками по ФЗ-44 и ФЗ-223, где ошибка в трактовке нормы стоит дорого, локальный RAG-помощник — способ ускорить работу юристов и закупщиков, оставляя финальное решение за человеком.
Хотите не читать про ИИ, а внедрить его?
«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.