Habr AI→ оригинал

Как запустить нейросеть на старой видеокарте: AMD RX 580 + Ollama

Видеокарта AMD RX 580 2017 года способна запускать современные языковые модели благодаря Vulkan. Забудьте о сложностях ROCm — используйте простой Vulkan и получите 15–35 токенов в секунду в Fedora. Установите Ollama, n8n и Open WebUI, загрузите Llama 3.1 или DeepSeek — и локальный AI готов к работе.

AI-обработка оригинала Habr AI; редакция Hamidun News
Как запустить нейросеть на старой видеокарте: AMD RX 580 + Ollama
Источник: Habr AI. Коллаж: Hamidun News.
◐ Слушать статью

Локальная нейросеть теперь реальность даже для старого железа. AMD RX 580 (видеокарта 2017 года) запускает современные языковые модели на компьютере со скоростью 15–35 токенов в секунду.

Как запустить нейросеть локально на своём компьютере?

Используйте Ollama с поддержкой Vulkan. Vulkan — это стандартная графическая API, доступная везде, работающая без боли, в отличие от ROCm. Ollama поддерживает Vulkan и позволяет запустить языковую модель локально на вашей машине.

Можно ли запустить нейросеть бесплатно на старой видеокарте?

Да. AMD RX 580 со скоростью 15–35 токенов в секунду запускает локальные языковые модели через Ollama без облака и подписок.

Какая скорость работы нейросети на AMD RX 580?

15–35 токенов в секунду в зависимости от размера модели и конфигурации.

ЖХ
Hamidun News
AI‑новости без шума. Ежедневный редакторский отбор из 400+ источников. Продукт Жемала Хамидуна, Head of AI в Alpina Digital.

Хотите не читать про ИИ, а внедрить его?

«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.

Что вы думаете?
Загружаем комментарии…