MarkTechPost→ оригинал

Нейросеть Cohere Command A+: 218 млрд параметров для агентов

Cohere выпустила Command A+ — открытую модель с 218 млрд параметров для агентских рабочих потоков. Благодаря W4A4 квантизации она запускается на двух H100 GPU, поддерживает 48 языков и впервые получила многомодальные способности рассуждения. Четыре варианта предыдущей серии Command A объединены в одно мощное универсальное решение.

AI-обработка оригинала MarkTechPost; редакция Hamidun News
Нейросеть Cohere Command A+: 218 млрд параметров для агентов
Источник: MarkTechPost. Коллаж: Hamidun News.
◐ Слушать статью

Cohere выпустила нейросеть Command A+ — открытую модель нового поколения для агентских рабочих потоков.

Сколько видеокарт нужно для запуска Command A+?

Благодаря W4A4 квантизации модель запускается на двух H100 GPU, в то время как конкурирующие модели размером 300+ млрд параметров требуют восемь-шестнадцать видеокарт.

Какие языки поддерживает нейросеть Cohere Command A+?

Модель поддерживает 48 языков.

На скольких видеокартах запускается Cohere Command A+?

На двух H100 GPU благодаря W4A4 квантизации (4-битная запись весов и активаций). Конкурирующие модели размером 300+ млрд параметров требуют восемь-шестнадцать видеокарт, что четырёхкратно дороже.

Сколько параметров в нейросети Cohere Command A+?

218 млрд параметров в архитектуре Sparse Mixture-of-Experts, объединившие четыре предыдущих варианта Command A в одно универсальное решение.

ЖХ
Hamidun News
AI‑новости без шума. Ежедневный редакторский отбор из 400+ источников. Продукт Жемала Хамидуна, Head of AI в Alpina Digital.

Хотите не читать про ИИ, а внедрить его?

«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.

Что вы думаете?
Загружаем комментарии…