IA local para texto: cómo ejecutar Nemotron en un PC doméstico
Nemotron-Cascade-2-30B-AWQ se ejecutó en local en un equipo doméstico con una GeForce RTX 3090 y alcanzó entre 120 y 150 tokens por segundo, y hasta más de 210 si se cuentan los tokens de razonamiento. En las pruebas, el modelo resolvió con solvencia tareas de física, biología y Python, además de funcionar con agentes web. El principal escollo no fue el límite del hardware, sino el tratamiento correcto de los bloques de razonamiento a través de vLLM.
Procesado por IA desde Habr AI; editado por Hamidun News
Resulta que el modelo de 30.000 millones de parámetros Nemotron-Cascade-2 se puede ejecutar en casa con una GeForce RTX 3090 y usarlo como IA local para trabajar con texto, programar y analizar datos a 120–150 tokens/s.
¿Qué red neuronal funciona en local en una RTX 3090?
Nemotron-Cascade-2 es un modelo local que genera 120–150 tokens por segundo en una GeForce RTX 3090 y se desenvuelve bien en programación, física, biología y agentes web.
¿Qué red neuronal se puede ejecutar en una tarjeta gráfica RTX 3090 en casa?
Nemotron-Cascade-2 (30.000 millones de parámetros) funciona en local en una RTX 3090 a 120–150 tokens por segundo con un contexto estable, con un razonamiento suficiente para programación y tareas analíticas.
¿Para qué usar una red neuronal local en una tarjeta gráfica en lugar
de servicios en la nube? Ejecutarla en local ofrece respuestas rápidas (150 tokens/s en una RTX 3090), contexto largo y control total sobre el modelo para el trabajo diario, sin la latencia de la nube.
¿Se puede ejecutar Nemotron en un PC doméstico?
Sí, el modelo Nemotron-Cascade-2, de 30.000 millones de parámetros, se puede usar en un PC doméstico con una GeForce RTX 3090 a 120–150 tokens/s.
¿Para qué tareas sirve la red neuronal local Nemotron?
Nemotron resuelve tareas de programación, física y biología, y mueve agentes web sin necesidad de la nube.
Preguntas frecuentes sobre la noticia
¿Qué red neuronal funciona en local en una RTX 3090?
Nemotron-Cascade-2 es un modelo local que genera 120–150 tokens por segundo en una GeForce RTX 3090 y se desenvuelve bien en programación, física, biología y agentes web.
¿Qué red neuronal se puede ejecutar en una tarjeta gráfica RTX 3090 en casa?
Nemotron-Cascade-2 (30.000 millones de parámetros) funciona en local en una RTX 3090 a 120–150 tokens por segundo con un contexto estable, con un razonamiento suficiente para programación y tareas analíticas.
¿Para qué usar una red neuronal local en una tarjeta gráfica en lugar de servicios en la nube?
Ejecutarla en local ofrece respuestas rápidas (150 tokens/s en una RTX 3090), contexto largo y control total sobre el modelo para el trabajo diario, sin la latencia de la nube.
¿Se puede ejecutar Nemotron en un PC doméstico?
Sí, el modelo Nemotron-Cascade-2, de 30.000 millones de parámetros, se puede usar en un PC doméstico con una GeForce RTX 3090 a 120–150 tokens/s.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.