Tencent lança o Hy4: modelo lê 1 milhão de tokens, e a API custa a partir de 83 centavos

A Tencent lançou a versão final do grande modelo de linguagem Hy4. Os principais números são estes: a cada requisição, ele aceita até 1 milhão de tokens (o equivalente a uma base de código inteira ou a uma pilha de contratos), responde com até 64 mil tokens, e a entrada na API custa 83 centavos por 1 milhão de tokens. A versão final trouxe duas habilidades novas: o modelo entende imagens e controla interfaces por conta própria, tanto na linha de comando quanto em janelas gráficas, em diferentes sistemas operacionais. Se você desenvolve agentes que leem documentos ou precisam clicar na tela onde não há uma API conveniente, vale testar o Hy4 nas suas próprias tarefas.

O que a versão final do Hy4 faz

Multimodalidade significa que o modelo aceita mais do que texto. O Hy4 reconhece imagens, interpreta documentos e gráficos e resolve problemas de matemática apresentados em imagem. Por exemplo, é possível enviar a captura de tela de um relatório com um gráfico ou a foto de uma página de livro didático e pedir que ele explique o que está ali.

O controle autônomo de interfaces é o trabalho em programas como faria um operador humano. O modelo olha para a tela, encontra o botão ou o campo de entrada, digita um comando no terminal ou clica no elemento desejado. Esse tipo de capacidade é necessário para agentes que precisam lidar com softwares comuns.

A janela de 1 milhão de tokens na entrada permite carregar em uma única requisição um repositório grande ou muitos documentos de uma vez, e o limite de resposta de 64 mil tokens comporta um texto extenso ou um trecho grande de código.

A Tencent informa ainda que removeu da base de treinamento ferramentas ofensivas para ciberataques. Com isso, a empresa tenta reduzir o risco de o modelo ajudar a escrever código malicioso. Quanto isso funciona, verificações independentes é que vão mostrar: a limpeza de dados, por si só, não garante que o modelo recuse pedidos perigosos.

Quanto custa e como é construído

O Hy4 tem 770 bilhões de parâmetros, mas apenas 49 bilhões trabalham em cada token. É assim que costumam ser organizados os modelos de «mistura de especialistas» (MoE): a rede armazena muito conhecimento, mas só uma parte dela é computada. Por isso, executar um modelo desse tipo sai mais barato do que rodar uma rede densa do mesmo tamanho.

Preços: 83 centavos por 1 milhão de tokens de entrada e 2,5 dólares por 1 milhão de tokens de saída. O modelo está disponível nos serviços da Tencent e no OpenRouter. Com contexto longo, o que pesa nos custos são justamente os tokens de entrada: uma requisição com o milhão completo sai por cerca de 83 centavos, e, com chamadas frequentes, esse valor cresce rápido.

O que ainda não se sabe e o que fazer

Os pesos do modelo continuam fechados. A Tencent promete publicá-los nos próximos dias e, em seguida, lançar uma versão mais leve, o Hy4 Flash. Enquanto isso não acontece, não é possível rodar o Hy4 na sua própria infraestrutura, e todos os dados precisam ser enviados a um provedor terceiro. Para empresas com requisitos rígidos de confidencialidade, essa é uma limitação importante.

As capacidades declaradas — trabalho com imagens, interfaces e contexto longo — convém verificar por conta própria. Isso vale principalmente para o contexto longo: formalmente, o modelo comporta um milhão de tokens, mas em muitos modelos a precisão para encontrar um detalhe específico nesse volume cai.

O plano prático é simples. Reúna um pequeno conjunto de tarefas reais: análise de um documento com gráficos, uma ação em uma interface, uma pergunta sobre um arquivo grande. Rode tudo no Hy4 pelo OpenRouter e compare qualidade e custo com o que você usa hoje. Se os pesos forem mesmo publicados, surgirá a opção de implantação própria, e o Hy4 Flash pode servir para requisições em massa e de baixo custo.