ИнфраструктураMarkTechPost→ оригинал

Нейросеть Cohere Command A+: 218 млрд параметров для агентов

Cohere выпустила Command A+ — открытую модель с 218 млрд параметров для агентских рабочих потоков. Благодаря W4A4 квантизации она запускается на двух H100 GPU, поддерживает 48 языков и впервые получила многомодальные способности рассуждения. Четыре варианта предыдущей серии Command A объединены в одно мощное универсальное решение.

AI-обработка оригинала MarkTechPost; редакция Hamidun News
Нейросеть Cohere Command A+: 218 млрд параметров для агентов
Источник: MarkTechPost. Коллаж: Hamidun News.
Слушать статью

Cohere выпустила нейросеть Command A+ — открытую модель нового поколения для агентских рабочих потоков.

Сколько видеокарт нужно для запуска Command A+?

Благодаря W4A4 квантизации модель запускается на двух H100 GPU, в то время как конкурирующие модели размером 300+ млрд параметров требуют восемь-шестнадцать видеокарт.

Какие языки поддерживает нейросеть Cohere Command A+?

Модель поддерживает 48 языков.

На скольких видеокартах запускается Cohere Command A+?

На двух H100 GPU благодаря W4A4 квантизации (4-битная запись весов и активаций). Конкурирующие модели размером 300+ млрд параметров требуют восемь-шестнадцать видеокарт, что четырёхкратно дороже.

Сколько параметров в нейросети Cohere Command A+?

218 млрд параметров в архитектуре Sparse Mixture-of-Experts, объединившие четыре предыдущих варианта Command A в одно универсальное решение.

Вопросы и ответы по материалу

Сколько видеокарт нужно для запуска Command A+?

Благодаря W4A4 квантизации модель запускается на двух H100 GPU, в то время как конкурирующие модели размером 300+ млрд параметров требуют восемь-шестнадцать видеокарт.

На скольких видеокартах запускается Cohere Command A+?

На двух H100 GPU благодаря W4A4 квантизации (4-битная запись весов и активаций). Конкурирующие модели размером 300+ млрд параметров требуют восемь-шестнадцать видеокарт, что четырёхкратно дороже.

Сколько параметров в нейросети Cohere Command A+?

218 млрд параметров в архитектуре Sparse Mixture-of-Experts, объединившие четыре предыдущих варианта Command A в одно универсальное решение.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Автономные AI-агенты

Делегируйте ресёрч, код и рутину автономному AI-агенту

Интеллектуальная агентная среда NomadNet Agent (agent.nomadnet.ai) выполняет многошаговые задачи: глубокий веб-ресёрч, анализ данных, написание кода и автоматизацию браузера.

Запустить NomadNet Agent →Платформа NomadNet AI
Что вы думаете?
Загружаем комментарии…