Локальные модели на видеокарте: тест Qwen и Gemma на Tesla V100
Tesla V100 из 2017 года справляется с современными LLM-моделями вроде Qwen35B и GPT-OSS-20B. Скорость генерации варьируется от 38 до 109 токенов в секунду в зависимости от модели. На тестах: создание сайтов, игр, обработка документов. Минимум 16 ГБ памяти, но 24 ГБ предпочтительнее для универсального использования.
AI-обработка оригинала Habr AI; редакция Hamidun News
Локальные модели ИИ можно запускать на видеокартах, выпущенных ещё в 2017 году. Мы протестировали пять популярных открытых моделей (от Qwen до Gemma) на Tesla V100 в пяти реальных сценариях — от генерации текста до создания кода и игр.
Какие нейросети для текста работают на V100?
В тесте использовались пять открытых моделей, включая Qwen и Gemma. Скорость работы составляет 38–109 токенов в секунду в зависимости от модели и квантования.
Можно ли использовать старый V100 для локальных нейросетей?
Да, согласно тесту, V100 работает с современными LLM для генерации текста, написания кода и других реальных сценариев.
Сколько токенов в секунду выдает
Tesla V100 при работе с локальными моделями? 38–109 токенов в секунду в зависимости от модели, размера и квантования.
- 27 окт. 2026 г.DingTalk открыл код DWS и перенёс на HarmonyOS PC 1000+ команд для ИИ-агентов
- 27 окт. 2026 г.Qwen3.8 пыталась загрузить файл в облако Alibaba в Пекине из песочницы Cohere
- 26 окт. 2026 г.Claude Opus 5.5 выиграл Code2Video-AA с 1536 Elo, обойдя GPT-6 Astra на 109
- 26 окт. 2026 г.Alibaba выпустила второе поколение очков на Qwen по цене от $450
Вопросы и ответы по материалу
Какие нейросети для текста работают на V100?
В тесте использовались пять открытых моделей, включая Qwen и Gemma. Скорость работы составляет 38–109 токенов в секунду в зависимости от модели и квантования.
Можно ли использовать старый V100 для локальных нейросетей?
Да, согласно тесту, V100 работает с современными LLM для генерации текста, написания кода и других реальных сценариев.
Сколько токенов в секунду выдает Tesla V100 при работе с локальными моделями?
38–109 токенов в секунду в зависимости от модели, размера и квантования.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.