Pioneiro da geração de imagens mira a IA de texto

Quando um cientista cujas ideias moldaram toda uma indústria de mídia generativa decide mudar para a IA de texto, o mercado deveria prestar atenção. Stefano Ermon, professor da Universidade Stanford e um dos principais pesquisadores de modelos de difusão, apresentou por meio de sua startup Inception uma tecnologia que promete acelerar de forma substancial os sistemas de IA de texto, de chatbots a assistentes corporativos.

Para entender a dimensão desse passo, é preciso lembrar quem é Ermon e por que seu nome pesa tanto. Suas pesquisas em modelos generativos baseados em score (score-based) foram um dos alicerces sobre os quais cresceram o Stable Diffusion, o DALL-E e dezenas de outros serviços de criação de imagens e vídeos. Os modelos de difusão, a tecnologia que transforma uma descrição em texto em uma imagem fotorrealista, devem sua existência em grande parte aos trabalhos de Ermon e de seus colegas. Não é apenas uma contribuição acadêmica: trata-se de uma tecnologia que gera bilhões de dólares em receita para empresas do mundo todo.

Agora, Ermon mira um território firmemente dominado por OpenAI, Google, Anthropic e Meta*: o processamento de linguagem natural. Sua startup Inception, sobre a qual pouco se sabia até recentemente, apresentou uma tecnologia capaz de acelerar a geração de texto em modelos de linguagem. Os detalhes ainda não foram totalmente revelados, mas, segundo a Bloomberg, trata-se de uma abordagem fundamentalmente nova para a arquitetura de inferência, a parte do funcionamento do modelo responsável por entregar a resposta ao usuário em tempo real.

A velocidade de inferência é um dos problemas centrais da indústria de grandes modelos de linguagem. Toda vez que você faz uma pergunta ao ChatGPT ou ao Claude, o modelo gera a resposta token por token, e esse processo exige enormes recursos computacionais. As empresas gastam bilhões de dólares em clusters de GPUs para garantir uma velocidade de resposta aceitável para centenas de milhões de usuários. Qualquer tecnologia capaz de reduzir o tempo de geração, mesmo que em dezenas de pontos percentuais, tem valor econômico colossal. Por isso, dezenas de startups e laboratórios de pesquisa concentram hoje seus esforços na otimização da inferência, da Groq, com seus chips especializados, a diversas soluções de software de quantização e decodificação especulativa.

O fato de Ermon trazer para essa corrida a experiência com modelos de difusão pode se revelar uma vantagem inesperada. Os modelos de difusão funcionam de maneira fundamentalmente diferente dos transformers autorregressivos: em vez de gerar tokens em sequência, eles refinam o resultado de forma iterativa a partir do ruído. Pesquisadores experimentam há alguns anos levar princípios de difusão para a geração de texto, e alguns resultados parecem promissores. Se a Inception conseguiu encontrar uma forma de aplicar essas ideias para acelerar na prática os modelos de texto, pode ser um verdadeiro avanço: não uma melhoria evolutiva, mas uma mudança de paradigma.

Ainda assim, o ceticismo também é pertinente. O mercado de startups de IA está cheio de declarações ambiciosas, e nem de longe todas resistem ao teste da escala. Uma coisa é mostrar um resultado impressionante em laboratório; outra, bem diferente, é implantar a tecnologia para milhões de usuários mantendo a qualidade das respostas. Grandes players como OpenAI e Google têm não só uma infraestrutura poderosíssima, mas também enormes equipes de engenheiros que há anos aprimoram seus sistemas. Competir com eles no território deles é uma tarefa de ordem completamente diferente da de publicar um artigo científico.

Mesmo assim, a reputação de Ermon e seu histórico fazem da Inception uma das startups mais interessantes do cenário atual. O mercado de infraestrutura para inferência de IA é avaliado em dezenas de bilhões de dólares e cresce rapidamente. Se a tecnologia da Inception realmente funcionar, a empresa tem vários caminhos estratégicos: licenciar para grandes provedores, criar seu próprio serviço de API ou, o que também é provável, ser adquirida por uma das gigantes de tecnologia.

A história da Inception também reflete uma tendência mais ampla: as fronteiras entre diferentes áreas da IA generativa estão se diluindo. Ideias nascidas no mundo das imagens migram para o texto, e vice-versa. A multimodalidade deixa de ser apenas um termo de marketing e se torna uma realidade de engenharia. Se o cientista que mudou a geração de imagens conseguir influenciar o processamento de texto de modo igualmente radical, será a melhor prova de que a indústria de IA ainda está longe da maturidade e de que os avanços mais interessantes talvez ainda estejam por vir.

*A Meta foi declarada organização extremista e é proibida na Rússia.