LLM locaux
Les LLM locaux sont des modèles de langage qui tournent directement sur votre propre matériel — un ordinateur portable, un PC avec GPU ou un serveur domestique — sans cloud, sans abonnement et sans que vos données quittent votre machine. Ollama, llama.cpp et LM Studio, avec les versions GGUF quantifiées de Llama, Qwen et Gemma, rendent cela possible même sur une carte graphique vieille de dix ans. Voici toute notre couverture de l’IA en local : guides, tests de matériel, quantification et confidentialité.
Un aquarium techno sur deux GTX 1660 Super : comment j'ai fait tourner Qwen 2.5 et l'ai intégrée à INFERNUM
Qwen-Image-2.1 d'Alibaba : 7 milliards de paramètres, 2K et exécution sur un MacBook Air de 16 Go
Nirmala Sitharaman présente l'Inde comme l'alternative aux États-Unis et à la Chine pour les capitaux dans l'IA et les puces
Dictée sans parasites : Whisper sur ordinateur et Claude pour le nettoyage
Un développeur sur Habr a conçu un système de nettoyage de dictée : Whisper Large v3 Turbo reconnaît la voix localement, Claude Sonnet 5.5 supprime les mots…
AWS montre comment exécuter llama.cpp sur SageMaker et obtenir des probabilités par option
AWS publie un guide pour déployer llama.cpp sur SageMaker AI : API de chat compatible OpenAI et extension SemIf, qui renvoie des probabilités par option, sur CPU ou…
Comment fonctionne un agent LLM : contexte, outils et boucle de rétroaction
Un agent LLM se distingue d'un chatbot par une boucle : le modèle appelle des outils, observe les résultats d'exécution et ajuste son prochain coup. Décryptage de…
Coral-KV compresse le cache KV des modèles vidéo de 37–48% et gagne jusqu'à 4,95 dB de PSNR
RunPod passe en revue 4 méthodes de quantification : de FP16 à INT4, la mémoire est divisée par 4
Recherche agentique sur des modèles open-source : qui a été trouvé, combien ça a coûté et où tout a déraillé
Comment construire un bot RAG sur T4 pour les manuels d'instruction civique : Qwen remplace la recherche web
The Verge lance un journal de bord sur l'IA locale : Hermes, Qwen et Mac Studio
The Verge lance une série sur l'IA locale : agent Hermes, Qwen, Asus TUF A14 et Mac Studio. Question centrale : le résultat justifie-t-il le prix d'une machine avec…
Runpod publie son RoundUp : Llama-2 avec un contexte de 32k tokens et SDXL 1.0 en accès public
Le deuxième RoundUp du cloud GPU Runpod recense deux sorties : Llama-2 avec une fenêtre de 32 000 tokens et SDXL 1.0 en accès public. Ce que ces chiffres coûtent en…
Runpod montre comment déployer un worker Serverless GPU depuis un template GitHub en trois étapes
L'auteur d'une dictée hors ligne basée sur GigaAM publie Pisar sur Google Play et cherche des testeurs
Où le modèle NLI aide un assistant de réunion : trois essayages, deux échecs
Pénurie de GPU : les CEO se partagent eux-mêmes la puissance de calcul, les startups signent des contrats pluriannuels
Le développeur Mikhaïl Singatoullin dépose au registre des logiciels russes une mémoire pour agents IA fonctionnant sans internet
« FlexSoft » promet un Time-to-Market nul dans la fintech grâce aux plateformes AI-Native
Unsloth et Llama 3 : comment apprendre à un modèle à appeler une API de façon fiable via JSON
10 outils IA gratuits pour remplacer les logiciels payants de data science
DataRobot coûte 50 000 $ par an, Tableau 900 $ par utilisateur. Mais il existe Ollama, AutoGluon, PandasAI et sept autres outils open source qui remplacent…
L'éditeur vidéo open source Wunjo Make apprend à écrire ses plugins avec Claude Code, Codex et Cursor
Le dépôt de l'éditeur vidéo Wunjo Make accueille un builder et des skills pour LLM cloud : les plugins, basés sur des réseaux de neurones locaux ou des API…