Google lança o Gemini Decision 1: moderação de vídeo e PDF por US$ 0,10 por 1 milhão de tokens

Se você tem conteúdo gerado por usuários, você também tem uma fila de moderação. Vídeos, capturas de tela, mensagens de voz, contratos em PDF: tudo isso precisa ser verificado quanto à conformidade com as regras. Passar cada arquivo por um grande LLM de uso geral é caro e lento. O Google tenta fechar essa lacuna com um produto específico: o Gemini Decision 1, um modelo classificador para avaliação rápida de decisões.

Que bicho é esse

O Decision 1 não é um chatbot nem um agente. É uma ferramenta estreita: você entrega a ele um material e uma pergunta como "este vídeo viola a regra sobre publicidade de bebidas alcoólicas?", e ele devolve uma pontuação. Segundo a descrição, a pontuação é calibrada, ou seja, não é apenas "sim/não", mas um nível de confiança ao qual se pode aplicar um limiar. O modo em lote permite fazer até 1000 perguntas em uma única requisição. O mesmo arquivo é verificado de uma vez contra todo o conjunto de regras, sem necessidade de pagar por um novo upload.

Classificadores da Cloudflare e da OpenAI já funcionam com essa lógica. O autor da análise no canal do Telegram @cgevent destaca a principal diferença: o modelo do Google sabe trabalhar com vídeo. O modelo é nativamente multimodal, e a janela de contexto é de 256.000 tokens. Como entrada, aceita grandes volumes de texto, imagens em alta resolução, áudio, streams de vídeo e PDFs de várias páginas.

Por que isso importa na prática

Imagine um marketplace em que os vendedores publicam vídeos de análise de produtos. Hoje, o esquema típico é este: extrair quadros, reconhecer a fala separadamente, passar o texto por um classificador, as imagens por outro e depois juntar os veredictos. Cada etapa falha à sua maneira, e o contexto se perde nas junções. Se a rede neural assiste ao vídeo inteiro, parte dessa infraestrutura pode ser descartada. Os modelos do Google, a partir do Flash, já são considerados fortes na compreensão de vídeo "puro", sem apoio de legendas e da trilha sonora.

O segundo argumento é o dinheiro. A tarifa é de US$ 0,10 por milhão de tokens de entrada, sem sobretaxa por multimodalidade. Segundo o Google, isso é cerca de dez vezes mais barato que os modelos frontier de uso geral. Para auditoria em fluxo contínuo, em que os volumes chegam a milhões de arquivos, isso é uma questão de unit economics: verificar tudo, e não apenas uma amostra.

O terceiro argumento é a qualidade. Nos testes do próprio Google, o modelo superou o Jev 1, da TypeSafe (o nome está assim na fonte), em precisão em casos de fronteira difíceis e em resistência a falsos positivos. Em moderação, o segundo ponto é tão importante quanto o primeiro: cada falso positivo é um usuário honesto bloqueado e um chamado ao suporte.

O que verificar antes de implementar

Primeiro, as limitações. A comparação com o Jev 1 usa dados do próprio Google; a análise não traz números nem descrição da metodologia. A tarifa é informada para tokens de entrada, e o preço dos tokens de saída não aparece no post, então confirme na documentação. Lembre-se também de que vídeo e áudio são convertidos em tokens, por isso o orçamento deve ser calculado em tokens, e não em "número de arquivos". Vídeos longos podem consumir boa parte da vantagem.

O que fazer, para desenvolvedores e product managers:

• Monte seu próprio conjunto de 200 a 500 exemplos rotulados, especialmente casos de fronteira: sátira, citações, conteúdo "no limite". Só com ele é possível ver a taxa real de falsos positivos.
• Rode esse conjunto no Decision 1 no Google AI Studio, onde há demos web prontas, e compare com a solução atual em precisão e custo por verificação.
• Use as pontuações calibradas, e não um veredito binário: automatize os casos de alta confiança e encaminhe os incertos para pessoas.
• Se você paga por vários classificadores especializados em diferentes modalidades, calcule se uma única chamada com um lote de perguntas não os substituiria.

O modelo já está disponível pela Gemini API pública, então é possível testar a hipótese em uma noite. Provavelmente, o maior ganho não estará em benchmarks vistosos, mas no fato de o vídeo deixar de ser um ramo separado e caro do seu pipeline de moderação.

Fonte: blog do Google sobre a Gemini Decisions API (link nas fontes originais do post de @cgevent).