Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarSimon Willison→ original

Agente do Datasette passa a rodar com Qwen 27B local, sem nuvem, via LM Studio e Ollama

O Datasette é uma ferramenta para trabalhar com bancos de dados, e seu agente de chat, que escreve SQL sozinho, agora roda com o Qwen de 27 bilhões de parâmetros de forma local, sem nuvem. O plugin datasette-llm 0.1a11 se conecta ao LM Studio, Ollama e llama.cpp, programas que executam a rede neural no seu computador e entendem o formato de requisições da OpenAI. Na demonstração, o agente contou sozinho no banco 200 repositórios e 1889 releases. Dados sigilosos podem ser analisados por um agente SQL inteiramente na sua própria máquina.

Processado por IA de Simon Willison; editado por Hamidun News
Agente do Datasette passa a rodar com Qwen 27B local, sem nuvem, via LM Studio e Ollama
Fonte: Simon Willison. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalSimon Willison ↗
Editor-chefe
A configuração é uma linha de JSONmodel, model_name e api_base
Dado-chave #2Execução com um único comando via uvx, junto com o plugin datasette-agent
Dado-chave #3O llama.cpp, que pode rodar o modelo, lançou recentemente a versão 1.0.0

Imagine que você tem um banco com clientes, logs ou uma exportação do CRM e quer fazer perguntas em linguagem comum: «quantos pedidos tivemos no mês?» A rede neural escreve a consulta SQL sozinha e devolve a resposta. Mas muita gente não está disposta a enviar esse tipo de dado a um serviço em nuvem.

O lançamento recente do plugin datasette-llm 0.1a11, de Simon Willison, resolve justamente esse problema. O Datasette é uma ferramenta open source para visualizar e explorar bancos de dados, e conta com um agente de chat, o datasette-agent, que consulta a lista de tabelas e escreve SQL por conta própria.

Agora é possível rodar esse agente com o Qwen de 27 bilhões de parâmetros, que funciona no seu próprio computador. A conexão é feita via LM Studio, Ollama ou llama.cpp.

Esses programas executam a rede neural localmente e aceitam requisições no formato da OpenAI, por isso são chamados de compatíveis com a OpenAI.

O que mudou no datasette-llm

O datasette-llm funciona como uma camada intermediária. Ele guarda as configurações dos modelos de linguagem (LLM), e os outros plugins do Datasette buscam esses dados ali. Antes, a escolha de modelos era limitada ao que o plugin suportava. Na versão 0.1a11, passou a existir suporte a endpoints compatíveis com a OpenAI. É assim que se chamam os servidores que entendem requisições no mesmo formato da API da OpenAI. Esse formato virou há tempos um padrão não oficial, e por isso é aceito por programas muito diferentes. Entre eles estão LM Studio, Ollama e llama.cpp. Este último, como observa o autor, acabou de chegar à versão 1.0.0.

Como o protocolo é comum, o Datasette deixa de depender de um provedor específico. Serve qualquer modelo que responda no endereço configurado, seja um computador na sua mesa, seja um servidor em outro país.

Como fica na prática

No exemplo do lançamento, tudo roda com um único comando, usando o gerenciador uv. Primeiro, baixa-se o banco de teste content.db do site datasette.io. Depois, o uvx sobe o Datasette junto com o plugin datasette-agent. Em default_model, são definidos três campos:

  • model — nome interno pelo qual o modelo aparece na interface (no exemplo, lmstudio-qwen);
  • model_name — nome do modelo no lado do servidor (qwen/qwen3.8-27b);
  • api_base — endereço do servidor local, aqui http://localhost:1234/v1.

Depois da execução, o chat é aberto. Na captura de tela, o usuário pergunta quantos repositórios e releases há no banco. O agente primeiro chama a ferramenta list_databases_and_tables para descobrir a estrutura. Em seguida, envia uma consulta SQL com duas subconsultas COUNT e obtém a resposta: 200 repositórios e 1889 releases. Toda a cadeia passa pelo Qwen local. Nenhuma requisição sai para um serviço externo.

Para que serve ao desenvolvedor e quais são os limites

Para quem trabalha com isso, o benefício está em dois pontos. O primeiro é a privacidade. Um agente que responde perguntas sobre o banco pode ser testado com dados reais, sem precisar discutir com o time de segurança o envio desses dados a terceiros. O segundo é a liberdade de escolha. Se amanhã sair um modelo melhor, basta trocar duas linhas na configuração, sem mexer no código. Também dá para comparar diferentes modelos no mesmo banco.

Há limitações. O número de versão 0.1a11 indica que se trata de uma alfa, então o formato das configurações pode mudar. O exemplo do lançamento é simples: contagem de linhas em duas tabelas. Como o modelo local lida com esquemas complexos, junções de várias tabelas e perguntas ambíguas, a nota não mostra. Para um modelo de 27 bilhões de parâmetros em hardware doméstico, isso precisa ser testado por conta própria. A velocidade de resposta e os requisitos de memória também dependem do seu computador e do servidor escolhido.

Um caminho sensato é pegar uma cópia pequena do seu banco, subir o Datasette com o modelo local e fazer uma dezena de perguntas típicas. Se o SQL sair correto, aí sim vale pensar em uma adoção mais séria. Se não, dá para tentar outro modelo ou conectar um da nuvem. Agora isso se faz trocando algumas linhas na configuração.

História

Perguntas frequentes sobre a notícia

O que mudou no datasette-llm?

O datasette-llm funciona como uma camada intermediária. Ele guarda as configurações dos modelos de linguagem (LLM), e os outros plugins do Datasette buscam esses dados ali. Antes, a escolha de modelos era limitada ao que o plugin suportava. Na versão 0.1a11, passou a existir suporte a endpoints compatíveis com a OpenAI. É assim que se chamam os servidores que entendem requisições no mesmo formato da API da OpenAI.

Como fica na prática?

No exemplo do lançamento, tudo roda com um único comando, usando o gerenciador uv. Primeiro, baixa-se o banco de teste content.db do site datasette.io. Depois, o uvx sobe o Datasette junto com o plugin datasette-agent. Em default_model, são definidos três campos: model — nome interno pelo qual o modelo aparece na interface (no exemplo, lmstudio-qwen); model_name — nome do modelo no lado do servidor (qwen/qwen3.8-27b); api_base — endereço do servidor local, aqui http://localhost:1234/v1.

O que se sabe sobre Para que serve ao desenvolvedor e quais são os limites?

Para quem trabalha com isso, o benefício está em dois pontos. O primeiro é a privacidade. Um agente que responde perguntas sobre o banco pode ser testado com dados reais, sem precisar discutir com o time de segurança o envio desses dados a terceiros. O segundo é a liberdade de escolha. Se amanhã sair um modelo melhor, basta trocar duas linhas na configuração, sem mexer no código. Também dá para comparar diferentes modelos no mesmo banco. Há limitações.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…