IA local para texto: como rodar o Nemotron em um PC doméstico
O Nemotron-Cascade-2-30B-AWQ rodou localmente em um setup doméstico com GeForce RTX 3090 e chegou a 120–150 tokens por segundo, e a mais de 210 quando se contam os tokens de raciocínio. Nos testes, o modelo se saiu bem em tarefas de física, biologia e Python, além de agentes web. O principal obstáculo não foi o limite do hardware, mas o tratamento correto dos blocos de raciocínio via vLLM.
Processado por IA de Habr AI; editado por Hamidun News
Acontece que dá para rodar em casa, em uma GeForce RTX 3090, a rede neural Nemotron-Cascade-2, de 30 bilhões de parâmetros, e usá-la como IA local para trabalhar com texto, programar e analisar dados a 120–150 tokens/s.
Qual rede neural roda localmente em uma RTX 3090?
O Nemotron-Cascade-2 é um modelo local que entrega 120–150 tokens por segundo em uma GeForce RTX 3090 e dá conta de programação, física, biologia e agentes web.
Qual rede neural dá para rodar em uma placa de vídeo RTX 3090 em casa?
O Nemotron-Cascade-2 (30 bilhões de parâmetros) roda localmente em uma RTX 3090 a 120–150 tokens por segundo, com contexto estável, oferecendo raciocínio suficiente para programação e tarefas analíticas.
Para que usar uma rede neural local na placa de vídeo em vez de
serviços na nuvem? Rodar localmente garante respostas rápidas (150 tokens/s em uma RTX 3090), contexto longo e controle total sobre o modelo no trabalho diário, sem a latência da nuvem.
Dá para rodar o Nemotron em um PC doméstico?
Sim, o Nemotron-Cascade-2, de 30 bilhões de parâmetros, pode ser usado em um PC doméstico com GeForce RTX 3090 a 120–150 tokens/s.
Para quais tarefas serve a rede neural local Nemotron?
O Nemotron dá conta de programação, problemas de física e biologia e roda agentes web sem a nuvem.
Perguntas frequentes sobre a notícia
Qual rede neural roda localmente em uma RTX 3090?
O Nemotron-Cascade-2 é um modelo local que entrega 120–150 tokens por segundo em uma GeForce RTX 3090 e dá conta de programação, física, biologia e agentes web.
Qual rede neural dá para rodar em uma placa de vídeo RTX 3090 em casa?
O Nemotron-Cascade-2 (30 bilhões de parâmetros) roda localmente em uma RTX 3090 a 120–150 tokens por segundo, com contexto estável, oferecendo raciocínio suficiente para programação e tarefas analíticas.
Para que usar uma rede neural local na placa de vídeo em vez de serviços na nuvem?
Rodar localmente garante respostas rápidas (150 tokens/s em uma RTX 3090), contexto longo e controle total sobre o modelo no trabalho diário, sem a latência da nuvem.
Dá para rodar o Nemotron em um PC doméstico?
Sim, o Nemotron-Cascade-2, de 30 bilhões de parâmetros, pode ser usado em um PC doméstico com GeForce RTX 3090 a 120–150 tokens/s.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.