Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAnalyse · Sur le radarSimon Willison→ original

L'agent Datasette tourne désormais sur un Qwen 27B local, sans cloud, via LM Studio et Ollama

Datasette est un outil de travail avec les bases de données ; son agent de chat, qui écrit lui-même le SQL, fonctionne désormais avec un Qwen local de 27 milliards de paramètres, sans cloud. Le plugin datasette-llm 0.1a11 se connecte à LM Studio, Ollama et llama.cpp, des programmes qui exécutent un réseau de neurones sur votre ordinateur et comprennent le format de requêtes d'OpenAI. Dans la démo, l'agent a lui-même compté dans la base 200 dépôts et 1889 versions. Des données confidentielles peuvent ainsi être analysées par un agent SQL entièrement en local.

Traité par IA depuis Simon Willison ; édité par Hamidun News
L'agent Datasette tourne désormais sur un Qwen 27B local, sans cloud, via LM Studio et Ollama
Source : Simon Willison. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireSimon Willison ↗
Rédacteur en chef
Configurationune seule ligne JSON avec model, model_name et api_base
Chiffre clé #2Lancement en une commande via uvx, avec le plugin datasette-agent
Chiffre clé #3llama.cpp, qui permet de faire tourner le modèle, vient de sortir en version 1.0.0

Imaginez que vous disposiez d'une base de clients, de logs ou d'un export de CRM, et que vous vouliez l'interroger en langage naturel : « combien de commandes avons-nous eues ce mois-ci ? ». Le réseau de neurones écrit lui-même la requête SQL et renvoie la réponse.

Mais beaucoup ne sont pas prêts à envoyer de telles données à un service cloud. La récente version du plugin datasette-llm 0.1a11, signée Simon Willison, s'attaque précisément à ce problème.

Datasette est un outil open source de consultation et d'exploration de bases de données, doté d'un agent de chat, datasette-agent, qui consulte lui-même la liste des tables et écrit le SQL. Cet agent peut désormais tourner avec un modèle Qwen de 27 milliards de paramètres exécuté sur votre propre ordinateur. La connexion passe par LM Studio, Ollama ou llama.

cpp. Ces programmes exécutent un réseau de neurones en local et acceptent les requêtes au format OpenAI, d'où leur qualificatif de « compatibles OpenAI ».

Ce qui change dans datasette-llm

datasette-llm joue le rôle de couche intermédiaire. Il stocke les réglages des grands modèles de langage (LLM), et les autres plugins Datasette y puisent leur configuration. Jusqu'ici, le choix des modèles se limitait à ce que le plugin prenait en charge. La version 0.1a11 ajoute la prise en charge des endpoints compatibles OpenAI. On désigne ainsi les serveurs qui comprennent les requêtes dans le même format que l'API d'OpenAI. Ce format est devenu depuis longtemps un standard tacite, si bien que des programmes très divers l'acceptent, dont LM Studio, Ollama et llama.cpp. Ce dernier, note l'auteur, vient justement de sortir en version 1.0.0.

Le protocole étant commun, Datasette n'est plus lié à un fournisseur donné. N'importe quel modèle qui répond à l'adresse voulue convient, qu'il s'agisse d'un ordinateur posé sur votre bureau ou d'un serveur situé à l'autre bout du monde.

À quoi cela ressemble en pratique

Dans l'exemple de la release, tout se lance en une seule commande via le gestionnaire uv. La base de test content.db est d'abord téléchargée depuis le site datasette.io. Ensuite, uvx démarre Datasette avec le plugin datasette-agent. Dans les réglages, default_model prend trois champs :

  • model : le nom interne sous lequel le modèle apparaît dans l'interface (dans l'exemple, lmstudio-qwen) ;
  • model_name : le nom du modèle côté serveur (qwen/qwen3.8-27b) ;
  • api_base : l'adresse du serveur local, ici http://localhost:1234/v1.

Une fois lancé, le chat s'ouvre. Sur la capture d'écran, l'utilisateur demande combien la base contient de dépôts et de versions. L'agent appelle d'abord l'outil list_databases_and_tables pour découvrir la structure. Il envoie ensuite une requête SQL comportant deux sous-requêtes COUNT et obtient la réponse : 200 dépôts et 1889 versions. Toute la chaîne passe par le Qwen local. Aucune requête ne part vers un service externe.

Intérêt pour les développeurs et limites

Pour un praticien, l'intérêt tient en deux points. Le premier est la confidentialité. On peut tester sur des données réelles un agent qui répond à des questions sur la base, sans discuter avec les équipes de sécurité de la transmission de ces données à un tiers. Le second est la liberté de choix. Si un meilleur modèle sort demain, il suffit de modifier deux lignes de configuration, sans toucher au code. Il devient possible de comparer différents modèles entre eux sur une même base.

Il y a aussi des limites. Le numéro de version 0.1a11 indique qu'il s'agit d'une alpha : le format des réglages peut donc changer. L'exemple de la release reste simple : un décompte de lignes dans deux tables. La note ne permet pas de savoir comment un modèle local se débrouille avec des schémas complexes, des jointures de plusieurs tables et des questions ambiguës. Pour un modèle de 27 milliards de paramètres sur du matériel domestique, c'est à vérifier soi-même. La vitesse de réponse et les besoins en mémoire dépendent eux aussi de votre ordinateur et du serveur choisi.

Une démarche raisonnable consiste à prendre une petite copie de sa base, à lancer Datasette avec un modèle local et à poser une dizaine de questions typiques. Si le SQL généré est correct, on peut envisager un déploiement plus sérieux. Sinon, on peut essayer un autre modèle ou brancher un modèle cloud. Cela se fait désormais en remplaçant quelques lignes de configuration.

Dossier

Questions clés sur cet article

Que sait-on sur Ce qui change dans datasette-llm ?

datasette-llm joue le rôle de couche intermédiaire. Il stocke les réglages des grands modèles de langage (LLM), et les autres plugins Datasette y puisent leur configuration. Jusqu'ici, le choix des modèles se limitait à ce que le plugin prenait en charge. La version 0.1a11 ajoute la prise en charge des endpoints compatibles OpenAI. On désigne ainsi les serveurs qui comprennent les requêtes dans le même format que l'API d'OpenAI.

Que sait-on sur à quoi cela ressemble en pratique ?

Dans l'exemple de la release, tout se lance en une seule commande via le gestionnaire uv. La base de test content.db est d'abord téléchargée depuis le site datasette.io. Ensuite, uvx démarre Datasette avec le plugin datasette-agent.

Que sait-on sur Intérêt pour les développeurs et limites ?

Pour un praticien, l'intérêt tient en deux points. Le premier est la confidentialité. On peut tester sur des données réelles un agent qui répond à des questions sur la base, sans discuter avec les équipes de sécurité de la transmission de ces données à un tiers. Le second est la liberté de choix. Si un meilleur modèle sort demain, il suffit de modifier deux lignes de configuration, sans toucher au code. Il devient possible de comparer différents modèles entre eux sur une même base. Il y a aussi des limites.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…