LLMs locais
Os LLMs locais são modelos de linguagem que rodam diretamente no seu próprio hardware — um notebook, um PC com GPU ou um servidor caseiro — sem nuvem, sem assinaturas e sem que os dados saiam da sua máquina. Ollama, llama.cpp e LM Studio, junto com as versões GGUF quantizadas de Llama, Qwen e Gemma, tornam isso possível até em uma placa de vídeo de dez anos atrás. Aqui está toda a nossa cobertura sobre rodar IA localmente: guias, testes de hardware, quantização e privacidade.
NVIDIA lança o Nemotron 3.5 Super: 26 pontos no AA e 630 tokens/s
O Nemotron 3.5 Super VL dobrou a pontuação do antecessor no Intelligence Index e virou o melhor modelo open-weight dos EUA. Junto dele estreia o compacto Bolt…
Desenvolvedor criou o Lumi com Claude Code: um Spotlight com IA gratuito para Mac e Windows
O Lumi, gratuito, combina busca de arquivos e respostas de IA em um único atalho de teclado no Mac e no Windows. Compatível com Claude, ChatGPT, Gemini, OpenRouter…
Um aquário tecnológico com duas GTX 1660 Super: como rodei a Qwen 2.5 e a integrei ao INFERNUM
O desenvolvedor McCake montou um PC doméstico com duas GPUs GTX 1660 Super (12 GB de VRAM combinados), rodou a Qwen 2.5 14B via Ollama e a integrou ao INFERNUM, um…
Ataques de drones à infraestrutura da Yandex reduziram a capacidade livre de computação na Rússia
Bitrix24 descreve o que constrói em torno de uma LLM própria de 1 trilhão de parâmetros
Qwen3.8-27B em IQ3 numa RTX 5070 Ti atinge 91,1% e entrega 68,3 tok/s
"Mundo das Quests" lança bot de IA Questosha e testa cinco modelos em 12 gates críticos
Qwen3.6-35B-A3B atinge 109 tokens/s em RTX 5080 com RTX 3060 em PCIe Gen2 x4
Entusiasta roda modelo de 35B com RTX 5080 e RTX 3060 em PCIe Gen2 x4 (cerca de 2 GB/s) e chega a 109 tokens/s. Veja por que o canal estreito não virou gargalo.
Coral-KV comprime o KV-cache de modelos de vídeo em 37–48% e eleva o PSNR em até 4,95 dB
Pesquisadores propuseram o Coral-KV, método de compressão do KV-cache para geração autorregressiva de vídeo. No MAGI-1, ele soma +4,95 dB de PSNR sobre o QVG-4 e…
Busca agêntica com modelos open source: quem ela encontrou, quanto custou e onde tudo quebrou
Como montar um bot RAG numa T4 para livros de sociologia e política: Qwen em vez de busca na web
The Verge lança diário sobre IA local: Hermes, Qwen e Mac Studio
Runpod publica novo resumo: Llama-2 com contexto de 32k tokens e SDXL 1.0 em acesso aberto
Escassez de GPUs: CEOs dividem capacidade pessoalmente e startups assinam contratos de vários anos
No Vale do Silício, os próprios CEOs distribuem a capacidade de computação, e concorrentes diretos se unem para ter acesso a ela. As startups pagam com compromissos…
Quando LLMs pequenos superam o enxame: como dividir os dados em seções multiplicou por 4 o desempenho de um modelo fraco
Um engenheiro de climatização realizou um experimento com seis modelos fracos (qwen2.5-coder-1.5b, llama-3.2-1b, internvl3-2b e outros), aplicando a estrutura de um…