Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarSimon Willison→ original

El agente de Datasette funciona con Qwen 27B en local, sin nube, a través de LM Studio y Ollama

Datasette es una herramienta para trabajar con bases de datos. Su agente de chat, que escribe SQL por sí mismo, ya funciona con un Qwen local de 27.000 millones de parámetros, sin nube. El plugin datasette-llm 0.1a11 se conecta a LM Studio, Ollama y llama.cpp, programas que ejecutan la red neuronal en tu ordenador y entienden el formato de peticiones de OpenAI. En la demo, el agente contó por sí solo 200 repositorios y 1889 lanzamientos en la base. Los datos cerrados pueden analizarse con un agente SQL íntegramente en local.

Procesado por IA desde Simon Willison; editado por Hamidun News
El agente de Datasette funciona con Qwen 27B en local, sin nube, a través de LM Studio y Ollama
Fuente: Simon Willison. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalSimon Willison ↗
Editor jefe
La configuración es una sola línea JSONmodel, model_name y api_base
Dato clave #2Se lanza con un solo comando mediante uvx, junto con el plugin datasette-agent
Dato clave #3llama.cpp, con el que se puede ejecutar el modelo, acaba de publicar la versión 1.0.0

Imagina que tienes una base de datos con clientes, logs o una exportación del CRM y quieres hacerle preguntas en lenguaje natural: «¿cuántos pedidos hemos tenido este mes?» La red neuronal escribe sola la consulta SQL y devuelve la respuesta. Pero muchos no están dispuestos a enviar esos datos a un servicio en la nube.

La reciente versión del plugin datasette-llm 0.1a11, de Simon Willison, resuelve precisamente ese problema. Datasette es una herramienta open source para explorar y consultar bases de datos, y cuenta con un agente de chat, datasette-agent, que revisa por sí mismo la lista de tablas y escribe el SQL.

Ahora ese agente puede ejecutarse con un modelo Qwen de 27.000 millones de parámetros que corre en tu propio ordenador. La conexión se hace a través de LM Studio, Ollama o llama.

cpp. Son programas que ejecutan la red neuronal en local y aceptan peticiones en formato OpenAI, por lo que se les llama compatibles con OpenAI.

Qué ha cambiado en datasette-llm

datasette-llm actúa como capa intermedia. Almacena la configuración de los modelos de lenguaje (LLM), y otros plugins de Datasette la toman de ahí. Antes, la elección de modelos estaba limitada a lo que soportaba el plugin. La versión 0.1a11 añade soporte para endpoints compatibles con OpenAI. Así se llama a los servidores que entienden peticiones en el mismo formato que la API de OpenAI. Ese formato se ha convertido hace tiempo en un estándar tácito, y por eso lo aceptan programas muy diversos. Entre ellos están LM Studio, Ollama y llama.cpp. Este último, como señala el autor, acaba de publicar la versión 1.0.0.

Como el protocolo es común, Datasette ya no depende de un proveedor concreto. Sirve cualquier modelo que responda en la dirección indicada, ya sea un ordenador sobre tu mesa o un servidor en otro país.

Cómo se ve en la práctica

En el ejemplo de la versión, todo se lanza con un único comando mediante el gestor uv. Primero se descarga la base de prueba content.db desde el sitio datasette.io. Después, uvx levanta Datasette junto con el plugin datasette-agent. En la configuración de default_model se definen tres campos:

  • model: el nombre interno con el que el modelo aparece en la interfaz (en el ejemplo, lmstudio-qwen);
  • model_name: el nombre del modelo en el servidor (qwen/qwen3.8-27b);
  • api_base: la dirección del servidor local, aquí http://localhost:1234/v1.

Al arrancar se abre el chat. En la captura de pantalla, el usuario pregunta cuántos repositorios y lanzamientos hay en la base. El agente llama primero a la herramienta list_databases_and_tables para conocer la estructura. Después envía una consulta SQL con dos subconsultas COUNT y obtiene la respuesta: 200 repositorios y 1889 lanzamientos. Toda la cadena pasa por el Qwen local. Ninguna petición sale hacia un servicio externo.

Para qué sirve a un desarrollador y dónde están los límites

Para quien trabaja con estas herramientas, el beneficio está en dos cosas. La primera es la privacidad. Un agente que responde preguntas sobre la base puede probarse con datos reales sin negociar con el equipo de seguridad la cesión de esos datos a un tercero. La segunda es la libertad de elección. Si mañana sale un modelo mejor, basta con cambiar dos líneas de la configuración, sin tocar el código. Además, se pueden comparar distintos modelos entre sí sobre la misma base.

También hay limitaciones. El número de versión 0.1a11 indica que es una alfa, así que el formato de la configuración puede cambiar. El ejemplo de la versión es sencillo: un recuento de filas en dos tablas. La nota no permite saber cómo se las arregla un modelo local con esquemas enrevesados, uniones de varias tablas o preguntas ambiguas. Con un modelo de 27.000 millones de parámetros en hardware doméstico, eso hay que comprobarlo por cuenta propia. La velocidad de respuesta y los requisitos de memoria también dependen de tu ordenador y del servidor que elijas.

Un camino razonable sería este: tomar una copia pequeña de tu base, levantar Datasette con el modelo local y hacerle una decena de preguntas típicas. Si el SQL sale correcto, ya se puede pensar en una implantación más seria. Si no, se puede probar otro modelo o conectar uno en la nube. Ahora basta con sustituir unas pocas líneas de la configuración.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Qué ha cambiado en datasette-llm?

datasette-llm actúa como capa intermedia. Almacena la configuración de los modelos de lenguaje (LLM), y otros plugins de Datasette la toman de ahí. Antes, la elección de modelos estaba limitada a lo que soportaba el plugin. La versión 0.1a11 añade soporte para endpoints compatibles con OpenAI. Así se llama a los servidores que entienden peticiones en el mismo formato que la API de OpenAI. Ese formato se ha convertido hace tiempo en un estándar tácito, y por eso lo aceptan programas muy diversos.

Cómo se ve en la práctica?

En el ejemplo de la versión, todo se lanza con un único comando mediante el gestor uv. Primero se descarga la base de prueba content.db desde el sitio datasette.io. Después, uvx levanta Datasette junto con el plugin datasette-agent.

¿Qué se sabe sobre Para qué sirve a un desarrollador y dónde están los límites?

Para quien trabaja con estas herramientas, el beneficio está en dos cosas. La primera es la privacidad. Un agente que responde preguntas sobre la base puede probarse con datos reales sin negociar con el equipo de seguridad la cesión de esos datos a un tercero. La segunda es la libertad de elección. Si mañana sale un modelo mejor, basta con cambiar dos líneas de la configuración, sin tocar el código. Además, se pueden comparar distintos modelos entre sí sobre la misma base. También hay limitaciones.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…