Pesos do Kimi K3.1 Pro são liberados em acesso aberto: 2,8 trilhões de parâmetros, 104 bilhões ativos

Às vezes as notícias mais importantes chegam em uma única linha no X. O post de @braincramps teve apenas 13 visualizações, mas traz muita informação concreta: os pesos do Kimi K3.1 Pro foram publicados, trata-se de um MoE com 2,8 trilhões de parâmetros e 104 bilhões ativos, 93 camadas, licença personalizada e capacidade multimodal. O autor o chama de o maior lançamento aberto da semana. O post não traz confirmação de outras fontes nem resultados de benchmarks, então tratamos isso como uma alegação a ser verificada.

O que esses números significam

Um MoE (mixture of experts) funciona assim: o modelo tem um enorme conjunto de "especialistas", mas apenas uma pequena parte é ativada a cada token. Aqui são 104 bilhões de 2,8 trilhões, ou cerca de 3,7% dos parâmetros. Em computação por token, o modelo é comparável a um modelo denso de pouco mais de 100 bilhões. Mas é preciso manter tudo na memória. Aritmética simples: em formato de 8 bits os pesos ocupam cerca de 2,8 TB; em 4 bits, cerca de 1,4 TB. Isso não roda em uma única máquina com várias GPUs; é necessário um cluster multinó.

Daí a conclusão prática. "Pesos abertos" nessa escala não significam "vou instalar no meu servidor". Para a maioria das equipes, há apenas um caminho real: esperar que provedores de hospedagem implantem o modelo e acessá-lo por API.

Arquitetura: um híbrido em vez da atenção clássica

Das 93 camadas, 69 são KDA e 24 são gated DSA. Ou seja, cerca de três quartos da pilha são camadas de um tipo e cerca de um quarto, do outro. O post não explica as siglas. KDA, pelo que parece, remete à atenção linear da linha Kimi (Kimi Delta Attention), e DSA, à atenção esparsa. Esse é um palpite nosso, não um fato da fonte.

O motivo desse desenho é bem conhecido. A atenção clássica fica mais cara conforme o contexto cresce e incha o cache KV. Híbridos com camadas lineares e esparsas comprimem esse cache e barateiam o contexto longo. Se o esquema funcionar no K3.1 Pro, ganham quem trabalha com documentos longos, bases de código e cadeias de agentes, em que o contexto cresce a cada passo.

Multimodalidade e licença

Além disso, é um modelo de visão e linguagem. Para as equipes de produto, isso significa que capturas de tela de interfaces, documentos e diagramas podem ser enviados ao mesmo modelo do texto, sem um pipeline separado. Ainda não se sabe com que qualidade ele faz isso.

A licença é descrita como "custom", e isso é o mais importante que o post deixa de fora. Essas licenças podem ter restrições: limites de receita ou de número de usuários, exigência de atribuição, proibição de certos cenários. Enquanto o texto não for lido, não se pode chamar o modelo de open source no sentido estrito. É mais correto falar em pesos abertos.

O que fazer na prática

Primeiro, não reescreva sua stack em torno do modelo por causa de um único post. Aguarde medições independentes nas suas tarefas: código, tool use, trabalho com contexto longo.

Segundo, verifique o suporte no vLLM e no SGLang. Novas arquiteturas híbridas costumam chegar com atraso aos motores de inferência, e isso define quando o modelo estará realmente disponível.

Terceiro, peça a um advogado que leia a licença, ou ao menos leia com atenção você mesmo, antes de incluir o modelo em um produto comercial.

Por fim, faça as contas. Com 104 bilhões de parâmetros ativos, o preço por token de um provedor pode ser razoável. Mas os requisitos de memória tornarão a hospedagem cara para quem decidir manter o modelo por conta própria. Por ora, a principal conclusão é esta: os laboratórios chineses continuam publicando pesos de escala de ponta, e isso volta a elevar a régua dos modelos abertos.