Timeweb Cloud adiciona ao AI Gateway modelos de vídeo, limites em rublos e modelos de reserva

A conta de IA costuma crescer em silêncio. Alguém conectou um modelo caro a um script de teste, alguém esqueceu de interromper um loop, e no fim do mês descobre-se que o orçamento do trimestre queimou em duas semanas. O resumo de outubro da Timeweb Cloud são, antes de tudo, notas de produto da própria provedora, e devem ser lidas com essa ressalva. Mas há nele um conjunto de recursos que atacam exatamente essa dor.

Uma chave para texto, imagens e vídeo

O AI Gateway é um ponto de entrada único para modelos de diferentes fornecedores. Em outubro, o vídeo foi adicionado a ele. A provedora cita o Veo 3.1 do Google (clipe já com som), o Kling da Kuaishou (cena de vários planos com um mesmo personagem), o Seedance da ByteDance, o Gen-4.5 da Runway para animar fotos de produtos, o Hailuo da MiniMax para vídeos verticais e o Wan da Alibaba para vídeos longos. Para imagens, entraram Seedream 5 e Gen-4 Image.

O esquema é simples. Você envia um prompt e, se necessário, uma imagem, e em alguns minutos retira o clipe pronto. As imagens chegam na hora, até quatro por requisição. Para trocar de modelo, basta alterar o nome dele na requisição. O vídeo é cobrado por segundo de clipe pronto.

Imagine uma equipe de marketplace que precisa dar vida aos cartões de produtos. Antes, eram seis SDKs diferentes, seis chaves e seis faturamentos. Agora há um único código de integração, e comparar modelos se resume a trocar uma linha na requisição. Além do vídeo, surgiram no catálogo mais 20 modelos: de texto, embeddings, rerankers, reconhecimento e síntese de fala. Cada um tem uma ficha com preço, calculadora, contexto e informações sobre onde e por quem os dados são processados.

Como evitar surpresas na conta

A principal parte prática é o controle de gastos:

• O painel «Atividade» reúne gastos, requisições e tokens de todas as chaves e agentes. Dá para ver quem gasta mais e quais requisições podem ser migradas para um modelo mais barato.
• Logs de requisições mostram o modelo, os tokens, o custo e o status de cada chamada.
• Limites diários em rublos são definidos por chave ou agente, além de limites separados por modelo. Aos 80% do gasto chega um aviso, e aos 100% as novas requisições deixam de passar.
• Batch API aceita até 50 000 requisições de uma vez e devolve as respostas em arquivo em até 24 horas. Os tokens custam metade.
• Modelos de reserva: a uma chave podem ser vinculados até dois de reserva. Se o principal não responder, a requisição segue para o próximo, e paga-se apenas por aquele que respondeu.

Um exemplo real: a rotulagem noturna de 40 000 avaliações não exige resposta imediata, então é lógico enviá-la via Batch e economizar metade. Já o chat de suporte permanece em um modelo principal rápido com dois de reserva, para que a falha de um fornecedor não derrube o produto.

O que mais há no resumo

Os agentes de IA ganharam memória de longo prazo: eles guardam fatos das conversas, e o conteúdo fica visível na aba «Memória», onde pode ser corrigido ou excluído. O App Platform agora sobe um ambiente separado para cada pull request e o remove após o fechamento. No Kubernetes foram adicionados clusters privados e um conector que emite e renova sozinho a chave do AI Gateway como segredo. Os servidores dedicados receberam 47 configurações com GPU, da RTX 4090 à H100 e H200, além de backups no seu próprio S3 com proteção contra exclusão. O restante, de domínios à navegação no painel, interessa principalmente aos clientes atuais.

Limitações e conclusão

Há três pontos a observar. Primeiro, trata-se da autodescrição do fornecedor: a lista de modelos, os preços e a disponibilidade devem ser verificados no catálogo, e não no resumo. Segundo, o serviço é voltado ao mercado russo, com pagamentos em rublos e infraestrutura local, e não servirá para todas as equipes. Terceiro, um limite rígido, no qual as requisições simplesmente deixam de passar, protege o orçamento, mas pode derrubar a produção. Defina-o com folga e configure sem falta o aviso de 80%.

Conclusão prática: se você acessa vários modelos por chaves diferentes, olhe para o gateway como uma camada de controle. Logs unificados, limites, processamento em lote e fallbacks são úteis independentemente de qual provedora os ofereça.