DiffusionGemma: uma rede neural para geração rápida de texto

O Google DeepMind apresentou o DiffusionGemma, uma rede neural de texto que resolve o principal problema dos desenvolvedores: os LLMs atuais geram texto token por token, o que adiciona latência, aumenta o custo de operação e prejudica a experiência do usuário em aplicações em tempo real.

Como o

DiffusionGemma gera texto mais rápido que as redes neurais convencionais? Em vez de prever sequencialmente cada token seguinte, o modelo trabalha de forma mais paralela, o que reduz significativamente a latência em aplicações em tempo real.