5 modelos abertos pequenos com tool calling: agentes que dispensam a nuvem

Durante muito tempo, os modelos de linguagem pequenos não conseguiam competir com os serviços em nuvem em uma habilidade essencial: operar ferramentas via tool calling. Isso está mudando. Surgiu uma geração de modelos compactos e abertos que suportam chamadas de função estruturadas e, ao mesmo tempo, continuam leves o bastante para implantação local.

O que é tool calling e por que funciona

Tool calling (chamada de ferramentas) é a capacidade do modelo de acionar funções externas, scripts ou APIs diretamente, em vez de apenas escrever código como resposta. O modelo recebe a lista de funções disponíveis com suas descrições, parâmetros e tipos de dados, e decide sozinho qual função chamar e com quais argumentos. Isso é crucial para agentes de AGI: eles podem gerenciar bancos de dados, baixar arquivos, enviar e-mails e agendar reuniões, tudo sem participação direta de uma pessoa.

O output estruturado (respostas em formato JSON) garante que o modelo devolva o resultado em um formato correto e previsível, que o programa consiga fazer parsing e usar na sequência. Até pouco tempo atrás, só modelos grandes (GPT-4, Claude 3) faziam isso de forma estável. Agora os modelos pequenos também aprenderam a gerar JSON estruturado sem falhas.

Por que os modelos pequenos agora são competitivos

Modelos pequenos (7B-13B parâmetros) têm várias vantagens sobre os grandes. São mais baratos no desenvolvimento e na inferência, mais privados por padrão (não enviam dados para a nuvem) e respondem mais rápido. Não exigem serviços em nuvem nem hardware corporativo potente: basta uma GPU intermediária ou até uma CPU razoável.

Ao somar suporte a tool calling a um modelo pequeno desses, o resultado é um agente de IA completo, que pode rodar no seu servidor, notebook ou até smartphone, sem internet. Isso abre caminho para agentes corporativos privados com garantia de confidencialidade dos dados. Uma empresa pode rodar o agente dentro da própria rede segura sem enviar uma única requisição para a nuvem.

Some-se a isso a flexibilidade de licenciamento: todos esses modelos são abertos e podem ser usados para fins comerciais sem pedir autorização.

5 modelos prontos para uso

Estes são cinco modelos pequenos que já hoje suportam tool calling completo:

• Llama 3.1 (Meta) — versão base de 8B, com boa documentação e exemplos de tool calling; a mais testada e estável da lista
• Mistral 7B — compacto e muito rápido, com bom equilíbrio entre qualidade e tamanho; popular em ambientes enterprise
• PhiLM 3 (Microsoft) — otimizado especificamente para saída estruturada e tarefas de engenharia; exige o mínimo de memória
• OpenChat 3.5 — focado em funções e operação de ferramentas; benchmarks fortes em testes de tool calling
• Neural Hermes 2.5 (Mistral com fine-tuning) — o que melhor lida com cadeias complexas de chamadas em várias etapas e com erros

Os cinco podem ser baixados do Hugging Face em poucos minutos e rodados localmente sem internet. O tempo de inferência (resposta a uma requisição) fica entre 50 e 200 milissegundos em uma GPU moderna ou CPU rápida.

O que isso significa para a indústria

A era do monopólio da nuvem sobre agentes de IA acabou. Agora, até pequenas startups e grandes corporações podem construir agentes de IA privados e completos, que não são mais lentos nem menos inteligentes que equivalentes na nuvem, como a API da OpenAI ou o Claude via nuvem. Isso significa que toda a infraestrutura de IA está migrando gradualmente da nuvem para on-premise.

Nos próximos meses, esperamos uma onda de ferramentas e frameworks para implantação local de agentes (como LM Studio e Ollama, mas já com suporte decente a tool calling). Para desenvolvedores, isso abre um mercado totalmente novo: agentes de IA privados para grandes corporações, órgãos públicos, saúde e fintechs. Em todos os lugares onde a nuvem é proibida por motivos políticos ou jurídicos, modelos locais são o único caminho.

*A Meta é reconhecida como organização extremista e proibida na Rússia.