Google apresenta DiffusionGemma, modelo com uma abordagem alternativa para gerar texto

O Google lançou o DiffusionGemma, um modelo experimental que adota uma abordagem radicalmente diferente para gerar texto em comparação com os modelos que sustentam os chatbots atuais.

Como os chatbots funcionam hoje

Os modelos de IA para texto atuais (GPT, Claude, Gemini) usam a arquitetura transformer. O princípio é simples: o modelo processa o texto da esquerda para a direita e prevê a próxima palavra, uma de cada vez. É como escrever no escuro, um caractere após o outro, sem poder refazer os passos anteriores.

Esse esquema funciona perfeitamente e virou o padrão da indústria nos últimos três anos. Mas tem uma limitação embutida: o modelo não consegue voltar e rever sua decisão. Depois que cada token é emitido, o contexto só avança. Se no 50º token o modelo já cometeu um erro, não vai conseguir corrigi-lo.

A abordagem de difusão do DiffusionGemma

O DiffusionGemma usa uma lógica totalmente diferente: um processo de difusão que o Google tomou emprestado da geração de imagens. Lá ele há tempos entrega ótimos resultados (DALL-E, Midjourney e Stable Diffusion funcionam exatamente assim).

Num modelo de difusão, tudo acontece de forma iterativa, não sequencial. O modelo começa com ruído aleatório em todo o comprimento do texto ao mesmo tempo. Na primeira iteração surgem os contornos grosseiros do sentido. Na segunda, as estruturas sintáticas são refinadas. Na terceira, entram os detalhes de estilo. Lembra o trabalho de um artista: primeiro um esboço a carvão, depois as cores principais, depois luz e sombra e, por fim, as pinceladas finais.

A diferença-chave: a cada passo da geração por difusão, o modelo pode rever e corrigir o texto inteiro de uma vez, e não apenas escolher a próxima palavra no final.

Por que isso é melhor em teoria

À primeira vista, a abordagem transformer parece mais eficiente: por que fazer várias iterações se dá para gerar em uma única passada? Mas as pesquisas mostram algo inesperado. O processo de difusão dá aos modelos duas vantagens fundamentais:

• Reavaliação do contexto — a cada iteração o modelo pode mudar decisões que tomou antes
• Paralelismo — o texto é atualizado em toda a sua extensão ao mesmo tempo, e não token a token
• Menos contradições internas — o modelo enxerga o texto inteiro e consegue harmonizar logicamente as diferentes partes
• Um novo paradigma de pesquisa — quais arquiteturas são possíveis em PLN é uma questão em aberto

Na prática, os modelos de difusão podem rodar mais rápido em algumas tarefas graças ao paralelismo. Em vez de esperar o token N antes de começar a refinar as posições de N+1 a N+50, o sistema pode melhorar todas elas ao mesmo tempo.

Status: laboratório, não produção

O DiffusionGemma não é um substituto para o ChatGPT. É um modelo de pesquisa que o Google lançou como código aberto para experimentos da comunidade. Por enquanto, os resultados ficam atrás dos líderes baseados em transformer nos benchmarks padrão.

Mas é o primeiro desafio sério ao monopólio da arquitetura transformer. Pesquisadores do Google destacam que a abordagem de difusão é especialmente promissora para tarefas que exigem processamento lógico profundo: inferência em várias etapas, raciocínio complexo e escrita criativa com coerência interna.

O que isso significa

O Google envia um sinal claro: o paradigma de que "o transformer é o único caminho certo" está incompleto. Existem arquiteturas alternativas que podem se tornar competitivas e até superiores em áreas específicas. O rumo mais provável são os modelos híbridos, que combinam a velocidade do transformer com a capacidade da difusão de reelaborar a informação em profundidade.