Как дообучить нейросеть для поиска: метод NVIDIA за день
NVIDIA выпустила практический гайд по дообучению embedding-модели под конкретный домен всего за один день и на одном GPU. В пайплайне нет ручной разметки данных: вопросы генерирует LLM, затем система подбирает hard negatives и учит модель на multi-hop запросах. В тестах на документации NVIDIA прирост Recall@10 и NDCG@10 превысил 10%, а весь цикл для небольшого корпуса укладывается в несколько часов.
AI-обработка оригинала Hugging Face Blog; редакция Hamidun News
NVIDIA опубликовала способ, как за несколько часов дообучить нейросеть для поиска под свои документы без ручной разметки данных.
Как дообучить нейросеть для поиска без разметки данных?
Нужно взять базовую модель Llama-Nemotron-Embed-1B-v2, сгенерировать синтетические пары вопрос–документ из своих документов (инструкции, контракты, логи), дообучить на жёстких негативных примерах и проверить улучшение поиска.
Хотите не читать про ИИ, а внедрить его?
«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.