Modelos locales en una tarjeta gráfica: probamos Qwen y Gemma en una Tesla V100
La Tesla V100, lanzada en 2017, puede con LLM actuales como Qwen35B y GPT-OSS-20B. La velocidad de generación oscila entre 38 y 109 tokens por segundo según el modelo. Las pruebas incluyeron la creación de sitios web y juegos, además del procesamiento de documentos. Se necesitan al menos 16 GB de memoria, aunque 24 GB es la opción preferible para un uso más versátil.
Procesado por IA desde Habr AI; editado por Hamidun News
Los modelos de IA locales pueden ejecutarse en tarjetas gráficas que salieron al mercado en 2017. Probamos cinco modelos abiertos populares (de Qwen a Gemma) en una Tesla V100 con cinco escenarios reales: desde la generación de texto hasta la creación de código y juegos.
¿Qué redes neuronales de texto funcionan en una V100?
La prueba incluyó cinco modelos abiertos, entre ellos Qwen y Gemma. La velocidad va de 38 a 109 tokens por segundo, según el modelo y la cuantización.
¿Se puede usar una V100 antigua para redes neuronales locales?
Sí. Según la prueba, la V100 funciona con LLM actuales para generar texto, escribir código y otros escenarios reales.
¿Cuántos tokens por segundo ofrece la
Tesla V100 con modelos locales? Entre 38 y 109 tokens por segundo, según el modelo, su tamaño y la cuantización.
- 1 nov 2026El juez de EditAgent, de Adobe, elige una edición válida en el 81,3% de los casos frente al 74,8% de EditScore
- 1 nov 2026Prueba de 16 modelos en 7 buscadores: Exa obtuvo una media de 10,5 puntos de 14; SearXNG, en torno a 3
- 1 nov 2026La capa de seguridad MoneyGate frenó las 42 peticiones fraudulentas a IA locales
- 1 nov 2026El tokenizador de BERT en Hugging Face es 50 veces más rápido tras eliminar el trabajo innecesario con ASCII
Preguntas frecuentes sobre la noticia
¿Qué redes neuronales de texto funcionan en una V100?
La prueba incluyó cinco modelos abiertos, entre ellos Qwen y Gemma. La velocidad va de 38 a 109 tokens por segundo, según el modelo y la cuantización.
¿Se puede usar una V100 antigua para redes neuronales locales?
Sí. Según la prueba, la V100 funciona con LLM actuales para generar texto, escribir código y otros escenarios reales.
¿Cuántos tokens por segundo ofrece la Tesla V100 con modelos locales?
Entre 38 y 109 tokens por segundo, según el modelo, su tamaño y la cuantización.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.