Des modèles locaux sur carte graphique : Qwen et Gemma à l'épreuve de la Tesla V100
Sortie en 2017, la Tesla V100 fait tourner des LLM récents comme Qwen35B et GPT-OSS-20B. La vitesse de génération va de 38 à 109 tokens par seconde selon le modèle. Au programme des tests : création de sites web et de jeux, traitement de documents. Il faut au minimum 16 Go de mémoire, mais 24 Go restent préférables pour un usage polyvalent.
Traité par IA depuis Habr AI ; édité par Hamidun News
On peut faire tourner des modèles d'IA en local sur des cartes graphiques sorties dès 2017. Nous avons testé cinq modèles ouverts populaires (de Qwen à Gemma) sur une Tesla V100, dans cinq scénarios concrets : de la génération de texte à l'écriture de code et à la création de jeux.
Quels modèles de texte tournent sur une V100 ?
Le test porte sur cinq modèles ouverts, dont Qwen et Gemma. La vitesse atteint 38–109 tokens par seconde selon le modèle et la quantification.
Peut-on utiliser une vieille V100 pour des modèles d'IA en local ?
Oui : d'après le test, la V100 fait tourner des LLM récents pour générer du texte, écrire du code et couvrir d'autres scénarios concrets.
Combien de tokens par seconde la
Tesla V100 délivre-t-elle avec des modèles locaux ? De 38 à 109 tokens par seconde, selon le modèle, sa taille et la quantification.
- 1 nov. 2026Le juge d'EditAgent (Adobe) retient une retouche valable dans 81,3% des cas, contre 74,8% pour EditScore
- 1 nov. 2026Test de 16 modèles sur 7 moteurs de recherche : Exa obtient en moyenne 10,5 points sur 14, SearXNG environ 3
- 1 nov. 2026La couche de protection MoneyGate n'a laissé passer aucune des 42 demandes frauduleuses adressées à des IA locales
- 1 nov. 2026Le tokenizer BERT de Hugging Face accéléré d'un facteur 50 en évitant le travail inutile sur l'ASCII
Questions clés sur cet article
Quels modèles de texte tournent sur une V100 ?
Le test porte sur cinq modèles ouverts, dont Qwen et Gemma. La vitesse atteint 38–109 tokens par seconde selon le modèle et la quantification.
Peut-on utiliser une vieille V100 pour des modèles d'IA en local ?
Oui : d'après le test, la V100 fait tourner des LLM récents pour générer du texte, écrire du code et couvrir d'autres scénarios concrets.
Combien de tokens par seconde la Tesla V100 délivre-t-elle avec des modèles locaux ?
De 38 à 109 tokens par seconde, selon le modèle, sa taille et la quantification.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.