MUX: método de raciocínio contínuo para LLMs com tokens multiplexados

Em julho de 2026, pesquisadores publicaram no arXiv o MUX (multiplexed tokens), um método para conduzir o raciocínio de modelos de linguagem em um espaço latente contínuo. Nele, um único token latente codifica sem perdas um trecho inteiro da cadeia de raciocínio, em vez de uma única palavra. Segundo os autores, o MUX superou baselines fortes de raciocínio latente em 32 configurações de avaliação, em quatro modelos de linguagem.

Por que o raciocínio convencional é lento

Os modelos de raciocínio clássicos desperdiçam computação: cada passo da cadeia de raciocínio transmite apenas uma subpalavra, e parte dos passos é gasta verbalizando o pensamento, e não calculando. Os autores do MUX chamam isso de "gargalo" computacional. O modelo raciocina em linguagem natural, então a capacidade de cada passo fica limitada ao tamanho de um token de subpalavra, o que gera computação extra em cadeias longas.

O que são tokens multiplexados

O MUX destila a cadeia de raciocínio discreta em tokens latentes contínuos. Cada um desses tokens é treinado para representar uma superposição linear ponderada (multiplexação) de todo um intervalo de subpalavras. Essa superposição é reversível: o intervalo original de subpalavras pode ser totalmente recuperado (demultiplexação). A ideia central é tornar a compressão reversível por construção, e não aproximada. Assim, o modelo não "corta caminho" e preserva toda a lógica original do raciocínio.

• Método: MUX, preprint arXiv:2607.18264, tipo de publicação "new" (julho de 2026)
• Mecanismo: um token latente equivale a uma soma ponderada de várias subpalavras discretas do raciocínio
• Reversibilidade: superposição sem perdas, com recuperação completa do intervalo de subpalavras
• Ponderação: dependente da posição, por exemplo com decaimento geométrico dos pesos
• Bônus: exploração paralela de vários ramos de solução em tarefas que exigem busca

Os autores demonstram que pesos simples e dependentes da posição, como um decaimento geométrico adequado, garantem a multiplexação sem perdas. Isso, por sua vez, evita o "colapso latente": um comportamento degenerado de atalho em que o modelo comprime a representação latente e deixa de raciocinar de fato.

Quanto o MUX supera as alternativas

O MUX superou baselines fortes de raciocínio latente em 32 configurações experimentais, que abrangem quatro modelos de linguagem diferentes, segundo os autores no resumo do arXiv. A vantagem não é sobre um único modelo, mas sobre toda uma classe de métodos de raciocínio latente, ao longo de toda a grade de 32 configurações. Além disso, análises de ablação e de probing mostraram que os tokens latentes aprendidos codificam um raciocínio correto e interpretável, e não ruído aleatório.

Outro resultado é a capacidade de busca paralela: o raciocínio multiplexado pode explorar simultaneamente vários ramos de solução em tarefas que exigem a enumeração de alternativas.

"A superposição sem perdas como objetivo local de treinamento é uma

condição suficiente para um raciocínio contínuo forte e eficiente no espaço latente", diz o resumo do estudo do MUX no arXiv.

O que isso significa

O raciocínio latente busca eliminar o "imposto da linguagem" dos modelos de raciocínio: calcular em um espaço contínuo e compacto, em vez de longas cadeias de texto. Se os resultados do MUX se reproduzirem em modelos maiores, o método aponta para um raciocínio mais barato e rápido, sem perda de precisão nem de interpretabilidade. Na prática, seriam IAs de raciocínio que gastam menos computação na mesma tarefa.

Perguntas frequentes

O que são tokens multiplexados?

São tokens latentes contínuos, cada um codificando a soma ponderada de várias subpalavras da cadeia de raciocínio. Por construção, a superposição é reversível: o intervalo original de subpalavras pode ser totalmente recuperado, então nenhuma informação se perde.

Em que o MUX difere da cadeia de raciocínio convencional?

O chain-of-thought convencional transmite uma subpalavra por passo e raciocina em texto. O MUX comprime um trecho inteiro do raciocínio em um único token latente e calcula no espaço contínuo. Isso aumenta a capacidade de cada passo e, segundo os autores, supera os baselines latentes em 32 configurações de teste, em quatro modelos.