Cohere lança modelo de transcrição open source com 2 bilhões de parâmetros e 14 idiomas

A Cohere lançou um modelo de voz aberto desenvolvido especificamente para transcrição de fala. Ao contrário da maioria dos concorrentes, ele tem apenas 2 bilhões de parâmetros. É uma escolha deliberada: assim, dá para rodá-lo em uma GPU de consumo comum, sem recorrer a clusters de servidores caros nem a APIs na nuvem. A empresa apresenta a novidade como ferramenta para desenvolvedores que querem implantar a transcrição em infraestrutura própria.

A Cohere é uma empresa canadense de IA fundada em 2019 por ex-integrantes do Google Brain. Até agora, era conhecida principalmente como fornecedora de modelos de linguagem corporativos: o modelo principal, Command, concorre com GPT-4 e Claude no segmento empresarial, e o sistema de embeddings Embed é usado em milhares de aplicações em produção para busca semântica. As ferramentas de voz são uma nova frente para a empresa, que já estreia com foco em especialização: em vez de uma solução multimodal universal, lançou uma ferramenta ajustada para uma única tarefa.

O mercado de reconhecimento automático de fala passa por uma transformação. Historicamente, foi dominado pelas gigantes de tecnologia: Google Speech-to-Text, Amazon Transcribe e Microsoft Azure Speech. Todas funcionam na nuvem: o áudio vai para os servidores do provedor, é processado lá e o texto volta. Isso cria dois problemas: custos crescentes em grandes volumes e questões de confidencialidade, críticas para vários setores. Os grandes provedores lucram com a escala, mas para startups e empresas médias o custo da transcrição na nuvem rapidamente se torna uma despesa relevante.

A virada veio em 2022, quando a OpenAI lançou o Whisper, um modelo de transcrição aberto que pode ser executado localmente. O Whisper mudou o mercado: desenvolvedores migraram em massa para a transcrição self-hosted e surgiram variantes rápidas, como o faster-whisper, baseado em CTranslate2, além de versões destiladas mais leves. Porém, o Whisper tem limitações conhecidas. As versões grandes exigem GPU com 8–10 GB de VRAM, e o modelo não recebe atualizações significativas desde o lançamento do Large v3, em 2023. O mercado esperava uma alternativa à altura. É aí que o modelo da Cohere encontra espaço.

Os 2 bilhões de parâmetros não são um compromisso, mas uma aposta consciente em acessibilidade. Para comparação: o Whisper Large v3, considerado a referência de qualidade, tem 1,5 bilhão de parâmetros e exige no mínimo 8 GB de VRAM em meia precisão. O modelo da Cohere é um pouco maior em número de parâmetros, mas, a julgar pela compatibilidade declarada com GPUs de consumo, é mais bem otimizado para rodar sem data center. O suporte a 14 idiomas cobre a maioria dos cenários de produção de empresas globais.

O status open source também é uma questão de privacidade. Empresas dos setores financeiro, médico, jurídico e governamental não podem simplesmente enviar conversas e gravações sensíveis aos servidores de provedores terceiros. Exigências regulatórias como HIPAA, GDPR, a lei russa 152-FZ e normas semelhantes pedem controle sobre o processamento dos dados. A transcrição self-hosted elimina totalmente essa barreira: o áudio é processado localmente e nada sai para fora. Até agora, a única opção madura para esses cenários era o Whisper, com suas limitações em produção.

Publicar uma ferramenta aberta também é uma jogada estratégica da Cohere. Um modelo gratuito atrai desenvolvedores para o ecossistema da empresa, cria uma futura dependência de produtos corporativos na nuvem à medida que o negócio escala e constrói reputação de parceira confiável. É a mesma lógica da Meta com o Llama e da Mistral com seus modelos abertos: primeiro construir confiança pela abertura, depois monetizar no segmento empresarial.

Benchmarks independentes devem aparecer nas próximas semanas. Por enquanto, não está claro como o modelo se comporta com muito ruído, sotaques difíceis e terminologia especializada. Se a precisão for comparável à do Whisper Large v3, isso mudará de forma significativa o equilíbrio de forças na transcrição open source. Desenvolvedores que criam sistemas de transcrição de reuniões, call centers, ferramentas de documentação médica ou notas de voz devem incluir o modelo da Cohere na lista de candidatos para testes.

*A Meta é reconhecida como organização extremista e proibida na Rússia.