Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
Безопасность и правоAPI / Продукт · В работуVoyage AI→ оригинал

Voyage 4: флагманская эмбеддинг-модель на MoE обслуживается на 40% дешевле плотных аналогов

Voyage AI выпустила Voyage 4 — четыре модели, которые превращают текст в числовые векторы для поиска в RAG. Флагман работает по схеме mixture-of-experts (MoE): на запрос включается лишь часть сети, поэтому обслуживание на 40% дешевле плотных моделей того же класса. По качеству поиска он обходит Gemini Embedding 001 на 3,87%, а OpenAI v3 Large — на 14,05%. Для RAG с большим трафиком это способ снизить счёт.

AI-обработка оригинала Voyage AI; редакция Hamidun News
Voyage 4: флагманская эмбеддинг-модель на MoE обслуживается на 40% дешевле плотных аналогов
Источник: Voyage AI. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникVoyage AI ↗
Главный редактор
Ключевой факт #1Документы кодирует мощная модель, запросы — лёгкая, базу не пересчитывать
Ключевой факт #2Первые 200 млн токенов через Voyage API бесплатны
Ключевой факт #3Открытая nano — на Hugging Face под лицензией Apache 2.0

Чтобы нейросеть могла искать по вашим документам, текст сначала превращают в эмбеддинги — набор чисел, по которому можно понять, насколько два фрагмента близки по смыслу. Это основа любого RAG, то есть связки «поиск по базе плюс языковая модель». Voyage AI выпустила семейство Voyage 4: четыре такие модели, которые умеют работать в общем векторном пространстве. Флагман построен на архитектуре mixture-of-experts (MoE): на каждый запрос включается только часть параметров сети, как если бы вопрос разбирали не все врачи клиники, а нужные специалисты. Благодаря этому, по данным компании, его обслуживание обходится на 40% дешевле, чем у плотных моделей сопоставимого качества, у которых работают все параметры сразу.

Один векторный язык для четырёх моделей

В серию входят флагманская модель, две модели среднего размера и первая открытая модель компании. Главная особенность — общее пространство эмбеддингов: векторы, созданные разными моделями семейства, совместимы и сравниваются напрямую. Обычно при смене модели приходится заново пересчитывать всю базу.

Voyage называет такую схему асимметричным поиском. Представьте внутреннюю базу знаний на миллион документов. Вы один раз прогоняете её через самую точную модель и платите за это разово. А запросы пользователей кодирует компактная модель: она отвечает быстро и стоит дешевле. Качество поиска во многом определяют именно векторы документов, поэтому вы получаете выгоду от большой модели, а задержка и цена каждого запроса остаются как у маленькой.

Компания советует для сервисов с большим трафиком такой порядок: закодировать корпус флагманом, на старте использовать для запросов лёгкую модель, а при росте требований к точности переключить запросы на более мощную. Документы пересчитывать при этом не придётся.

MoE в эмбеддингах и результаты проверки

Языковые модели на MoE уже привычны, но Voyage называет свой флагман первой эмбеддинг-моделью такого типа, готовой к промышленному использованию. Обещание простое: качество на уровне лучших при затратах на обслуживание на 40% ниже, чем у плотных моделей.

Качество проверяли на 29 датасетах бенчмарка RTEB. Асимметричный режим проверяли отдельно, на наборах из восьми областей: медицина, код, веб, финансы, техническая документация, длинные документы, переписки и право. Метрика — NDCG по десяти лучшим найденным документам: она показывает, насколько высоко в выдаче оказываются нужные тексты. По среднему результату флагман, согласно Voyage, опережает Gemini Embedding 001 на 3,87%, Cohere Embed v4 на 8,20% и OpenAI v3 Large на 14,05%. Он также лучше предыдущих моделей самой компании. В асимметричном режиме, по её данным, качество растёт и для лёгких моделей.

Экономия на хранении и открытая модель

Все модели поддерживают сжатие векторов. Можно выбрать длину вектора 2048, 1024, 512 или 256 значений (технология Matryoshka) и формат чисел: 32-битные дробные, 8-битные целые со знаком и без знака либо бинарный. Чем короче вектор и проще формат, тем меньше места занимает индекс и тем дешевле векторная база. Voyage заверяет, что потери качества минимальны, хотя на своих данных это стоит проверить.

Для тех, кто не хочет зависеть от API, есть открытая модель nano. Её веса выложены на Hugging Face под лицензией Apache 2.0. Она подходит для локальных прототипов, а потом можно перейти на платные модели без смены пространства векторов.

Что делать на практике

Модели доступны через Voyage API, а клиентам MongoDB Atlas — через Embedding and Reranking API. Первые 200 миллионов токенов бесплатны, так что варианты можно сравнить без бюджета.

Оговорки такие. Все сравнения опубликованы самой Voyage, поэтому независимая проверка на вашем корпусе обязательна, особенно в узких областях. Выигрыш от асимметричного режима зависит от соотношения нагрузок: он заметен там, где запросов намного больше, чем обновлений документов. Если корпус меняется каждый час, экономия будет скромнее. Цифра в 40% относится к стоимости обслуживания флагмана, а не ко всему вашему счёту за поиск.

Если вы строите агента или поиск по документам с большим трафиком, протестируйте связку «тяжёлая модель для документов, лёгкая для запросов». Для продакта это шанс сохранить качество поиска и снизить цену каждого запроса, не перестраивая индекс при смене модели.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: один векторный язык для четырёх моделей?

В серию входят флагманская модель, две модели среднего размера и первая открытая модель компании. Главная особенность — общее пространство эмбеддингов: векторы, созданные разными моделями семейства, совместимы и сравниваются напрямую. Обычно при смене модели приходится заново пересчитывать всю базу. Voyage называет такую схему асимметричным поиском. Представьте внутреннюю базу знаний на миллион документов. Вы один раз прогоняете её через самую точную модель и платите за это разово.

Что известно по теме: MoE в эмбеддингах и результаты проверки?

Языковые модели на MoE уже привычны, но Voyage называет свой флагман первой эмбеддинг-моделью такого типа, готовой к промышленному использованию. Обещание простое: качество на уровне лучших при затратах на обслуживание на 40% ниже, чем у плотных моделей. Качество проверяли на 29 датасетах бенчмарка RTEB. Асимметричный режим проверяли отдельно, на наборах из восьми областей: медицина, код, веб, финансы, техническая документация, длинные документы, переписки и право.

Что известно по теме: экономия на хранении и открытая модель?

Все модели поддерживают сжатие векторов. Можно выбрать длину вектора 2048, 1024, 512 или 256 значений (технология Matryoshka) и формат чисел: 32-битные дробные, 8-битные целые со знаком и без знака либо бинарный. Чем короче вектор и проще формат, тем меньше места занимает индекс и тем дешевле векторная база. Voyage заверяет, что потери качества минимальны, хотя на своих данных это стоит проверить. Для тех, кто не хочет зависеть от API, есть открытая модель nano.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…