LLM locales
Los LLM locales son modelos de lenguaje que se ejecutan directamente en tu propio hardware — un portátil, un PC con GPU o un servidor casero — sin nube, sin suscripciones y sin que los datos salgan de tu máquina. Ollama, llama.cpp y LM Studio, junto con las versiones GGUF cuantizadas de Llama, Qwen y Gemma, lo hacen posible incluso en una tarjeta gráfica de hace una década. Aquí está toda nuestra cobertura sobre ejecutar IA en local: guías, pruebas de hardware, cuantización y privacidad.
Un acuario tecnológico con dos GTX 1660 Super: cómo puse en marcha Qwen 2.5 y la integré en INFERNUM
Qwen-Image-2.1 de Alibaba: 7 mil millones de parámetros, 2K y ejecución en un MacBook Air con 16 GB
Sitharaman presenta a la India como alternativa a EE. UU. y China para el capital en IA y chips
Dictado sin muletillas: Whisper local y Claude para limpiar el texto
Un desarrollador publicó en Habr un sistema de limpieza de dictado: Whisper Large v3 Turbo transcribe localmente, y Claude Sonnet 5.5 elimina muletillas y corrige…
AWS muestra cómo ejecutar llama.cpp en SageMaker y obtener probabilidades por opción
AWS publica una guía para desplegar llama.cpp en SageMaker AI: API de chat en formato OpenAI y la extensión SemIf, que devuelve probabilidades por opciones…
Cómo está hecho un agente LLM: contexto, herramientas y bucle de retroalimentación
Un agente LLM se diferencia de un chatbot por un bucle: el modelo invoca herramientas, observa los resultados de la ejecución y corrige su siguiente movimiento.
Coral-KV comprime el KV-cache de los modelos de vídeo entre un 37% y un 48% y mejora el PSNR hasta 4,95 dB
RunPod analiza 4 métodos de cuantización: de FP16 a INT4, la memoria se reduce a una cuarta parte
Búsqueda agéntica con modelos open source: a quién encontró, cuánto costó y dónde falló todo
Cómo montar un bot RAG en una T4 para libros de texto de educación cívica: Qwen en lugar de búsqueda web
The Verge estrena un diario sobre IA local: Hermes, Qwen y Mac Studio
The Verge estrena una serie sobre IA local con Hermes, Qwen, un Asus TUF A14 y un Mac Studio. La pregunta clave: ¿compensa el precio de un equipo con memoria cara?
Runpod publica su resumen: Llama-2 con contexto de 32k tokens y SDXL 1.0 de acceso público
El segundo RoundUp de la nube GPU Runpod recoge dos lanzamientos: Llama-2 con ventana de 32 mil tokens y SDXL 1.0 público. Qué hay tras las cifras y cuánta VRAM…
Runpod muestra cómo desplegar un worker Serverless para GPU desde una plantilla de GitHub en tres pasos
El autor del dictado sin conexión con GigaAM publica Giga Pisar en Google Play y busca probadores
Dónde ayuda un modelo NLI en un asistente de reuniones: tres pruebas, dos rechazos
Escasez de GPU: los CEO reparten la capacidad en persona y las startups firman contratos de varios años
El programador Singatullin solicita incluir en el registro de software ruso una memoria para agentes de IA que funciona sin internet
FlexSoft promete un Time-to-Market cero en fintech con plataformas AI-Native
Unsloth y Llama 3: cómo enseñar a un modelo a llamar a una API de forma estable mediante JSON
10 herramientas de IA gratuitas en lugar de software de pago para data science
DataRobot cuesta 50.000 dólares al año, Tableau, 900 dólares por usuario. Pero existen Ollama, AutoGluon, PandasAI y otras siete herramientas abiertas que…
El editor de vídeo de código abierto Wunjo Make ya permite escribir plugins con Claude Code, Codex y Cursor
El repositorio de Wunjo Make incorpora un compilador y skills para LLM en la nube: los plugins con redes neuronales locales y APIs pueden escribirse con tres…