Ollama 0.1.5: Qwen3-Coder-Next e as alegrias de rodar modelos localmente

A Ollama foi atualizada para a versão 0.15.5 e ganhou suporte a novos modelos. O destaque é o Qwen3-Coder-Next. Voltado à geração de código, ele promete ser uma ferramenta poderosa para desenvolvedores, mas, como costuma acontecer, o alto desempenho cobra um preço em recursos.

O Qwen3-Coder-Next é um modelo com 80 bilhões de parâmetros, a maior parte treinada em código. Isso lhe permite obter resultados impressionantes em tarefas de programação. Mas rodá-lo localmente exige hardware parrudo. Em particular, na Ollama só há versões quantizadas do modelo (q4_K_M, com 52 GB, e q8_0, com 85 GB), o que já indica o quanto ele é "faminto".

Para trabalhar com conforto com o Qwen3-Coder-Next, serão necessários no mínimo 80 GB de memória de vídeo, se você quiser alta velocidade de inferência. Também é possível rodar o modelo na CPU, com 128 GB ou mais de RAM DDR5, mas a velocidade será bem menor. Isso faz do Qwen3-Coder-Next uma opção pouco acessível ao usuário comum, o que, segundo o autor do artigo original, costuma gerar reação negativa.

Curiosamente, o autor oferece acesso gratuito ao próprio servidor, que já tem 10 modelos diferentes carregados, incluindo o Qwen3-Coder-Next. É uma ótima oportunidade para quem não consegue rodar o modelo localmente, mas quer testá-lo. Vale lembrar, porém, que o acesso não é eterno e será encerrado quando a configuração de um sistema RAG (Retrieval-Augmented Generation) for concluída. O autor também avisa que vai desconectar usuários que tentarem sobrecarregar o servidor.

No geral, a chegada do Qwen3-Coder-Next à Ollama é um passo importante para os LLMs locais. Ela permite que desenvolvedores acessem um modelo poderoso de geração de código sem depender de serviços na nuvem. Ainda assim, os altos requisitos de recursos continuam sendo um obstáculo sério para a adoção ampla desses modelos. A oferta de acesso gratuito ao servidor é uma ótima chance para quem quer testar o Qwen3-Coder-Next, mas não tem o hardware necessário. Ela também evidencia a tendência crescente de soluções de IA locais e autossuficientes, que dão aos usuários mais controle sobre seus dados e recursos computacionais.

Assim, a Ollama segue evoluindo e dando acesso a modelos de ponta, mas é importante lembrar que os requisitos de hardware só crescem. Testar o Qwen3-Coder-Next no servidor do autor é uma chance valiosa de avaliar o potencial desses modelos e entender se você está pronto para migrar para um hardware mais potente.