Início 23/11Turma 3 ao vivo de Vibe Coding & Agentes de IA: 3 semanas, 9 aulas ao vivoTurma 3 (23/11) →
InfraestruturaCódigo / SDK · Pronto p/ usoHabr AI→ original

Q.ANT e AMD lançam LLM de 1 bilhão de parâmetros com chip óptico no lugar da atenção

Quanto mais longo o texto enviado a uma LLM, mais rápido crescem o volume de cálculo e a memória da GPU ocupada pelo KV-cache, que guarda o que o modelo já leu. A Q.ANT e a AMD substituíram parte das camadas de atenção de um modelo de 1 bilhão de parâmetros por um chip óptico que calcula a transformada de Fourier com luz. A velocidade e a qualidade não foram divulgadas, e elas não foram as primeiras: em abril, a britânica Lumai já havia colocado uma LLM para rodar em óptica. Para o desenvolvedor, por ora é só uma demo, e ainda é cedo para mudar a stack.

Processado por IA de Habr AI; editado por Hamidun News
Q.ANT e AMD lançam LLM de 1 bilhão de parâmetros com chip óptico no lugar da atenção
Fonte: Habr AI. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalHabr AI ↗
Editor-chefe
Dado-chave #1A Q.ANT promete sistemas de série para o segundo semestre de 2027
Dado-chave #2Um SDK aberto em C e Python, com emulação em CPU, foi publicado em setembro de 2026
Dado-chave #3Em 2021, o FNet do Google manteve de 92% a 97% da acurácia do BERT no GLUE

Imagine um chatbot que responde com base em centenas de páginas de contratos, ou um agente com um longo histórico de conversas. Quanto mais longo o texto que o modelo de linguagem (LLM) recebe, mais pesado fica o trabalho: o mecanismo de atenção, em que cada palavra é comparada com todas as outras, exige um volume de cálculo que cresce de forma quadrática, e o KV-cache — a área da memória da GPU onde o modelo guarda o que já leu — se expande e expulsa todo o resto. A empresa alemã Q.

ANT tentou contornar essa limitação com luz: na conferência SC26, em Chicago, ela mostrou com a AMD uma inferência híbrida (execução de um modelo já pronto) em um modelo de cerca de 1 bilhão de parâmetros. Parte do trabalho de atenção ali não é feita pela GPU, e sim por um coprocessador fotônico. Se você paga por GPUs para contextos longos, vale ficar de olho, mas ainda não há o que comprar: não existem números de velocidade nem de qualidade.

O que exatamente foi mostrado

Parte das camadas do modelo foi transferida da GPU para o coprocessador fotônico Q.ANT NPU Gen 2+. Ele calcula a transformada discreta de Fourier (uma operação matemática que mistura a informação entre as palavras por uma fórmula fixa) de forma óptica, em uma única passagem do sinal luminoso. Segundo o relatório técnico, o experimento usou um modelo de linguagem de cerca de 1 bilhão de parâmetros em um acelerador AMD Instinct MI210, combinado ao chip fotônico. Utz Bacher, vice-presidente de software da Q.ANT, chama a abordagem de "camadas de atenção de Fourier" e diz que se trata de um protótipo inicial.

Em termos simples, a ideia é esta. A atenção convencional lembra uma reunião em que cada participante conversa, um por vez, com todos os outros. A transformada de Fourier mistura a informação segundo um esquema pronto, sem comparações par a par. Por isso ela é mais barata e, na óptica, é calculada quase instantaneamente. Todas as outras camadas do transformer continuam na GPU AMD convencional.

O que a empresa não revelou e por que o "primeiro do mundo" é questionável

O comunicado de imprensa chama o lançamento de "o primeiro do mundo", mas já em abril de 2026 a startup britânica Lumai havia colocado uma LLM completa para rodar em seu servidor Iris. A arquitetura é outra: em vez de guias de onda planos de silício, como na Q.ANT, usa óptica tridimensional com lentes e feixes de luz no espaço livre. Segundo a Lumai, modelos da classe do Llama 70B rodam em tempo real com 90% de economia de energia.

A demonstração da Q.ANT tem mais lacunas do que dados:

  • O modelo específico não foi nomeado. Não está claro como o problema da máscara causal (a proibição de "espiar" palavras futuras na geração passo a passo) foi resolvido, nem quais camadas ficaram na GPU.
  • Não há perplexidade (medida de quanto o modelo "se surpreende" com o texto) nem resultados em benchmarks padrão. Aguardamos testes no Artificial Analysis.
  • Não foram divulgados o ganho em tokens por segundo nem a compressão real do KV-cache. A redução no consumo de energia é descrita apenas como "potencialmente significativa".

Antes, em junho de 2026, na conferência ISC em Hamburgo, a Q.ANT mostrou, em um chip da geração anterior, um modelo de difusão de 59 milhões de parâmetros para geração de imagens e a arquitetura TiRex, baseada em xLSTM. Na ocasião, a empresa declarou eficiência energética 30 vezes maior, mas o número se referia ao próprio circuito óptico e era baseado em estimativas.

O que esperar da qualidade

Substituir a atenção por uma camada de Fourier foi ideia anterior à fotônica: em 2021, o Google fez isso na arquitetura FNet. O treinamento ficou de 70% a 80% mais rápido, mas o modelo manteve apenas de 92% a 97% da acurácia do BERT no teste GLUE. Além disso, o FNet era um encoder, e não um modelo generativo, que escreve o texto palavra por palavra.

A versão óptica tem as mesmas limitações de arquitetura, mais custos adicionais: a cada camada, os tensores precisam ser convertidos do digital para a luz e de volta, e ainda trafegar entre a GPU e o coprocessador. Se essas transferências consumirem o ganho, não haverá aceleração.

O que o desenvolvedor deve fazer

A Q.ANT planeja lançar sistemas de série no mercado no segundo semestre de 2027. Os aceleradores da geração anterior estão disponíveis desde 9 de novembro em beta fechado, em servidores dedicados da IONOS na Alemanha. Os chips também foram enviados aos centros alemães de supercomputação LRZ e JSC, mas ainda não há relatórios públicos independentes desses locais.

É possível experimentar a ideia já: em setembro de 2026, a empresa publicou um SDK aberto com API em C e Python e emulação em CPU. Ele está sendo atualizado para as camadas de Fourier do Gen 2+.

A viabilidade do híbrido será mostrada por dois números: a perplexidade em comparação com um modelo igual, de 1 bilhão de parâmetros, com atenção clássica, e um ganho honesto de tokens por segundo em inferência real. Sem eles, ainda é cedo para falar em substituir o attention. Resta saber o que será mais difícil: levar o hardware óptico à produção em série ou convencer os desenvolvedores a reescrever seus modelos para ele.

História

Perguntas frequentes sobre a notícia

O que exatamente foi mostrado?

Parte das camadas do modelo foi transferida da GPU para o coprocessador fotônico Q.ANT NPU Gen 2+. Ele calcula a transformada discreta de Fourier (uma operação matemática que mistura a informação entre as palavras por uma fórmula fixa) de forma óptica, em uma única passagem do sinal luminoso. Segundo o relatório técnico, o experimento usou um modelo de linguagem de cerca de 1 bilhão de parâmetros em um acelerador AMD Instinct MI210, combinado ao chip fotônico.

O que a empresa não revelou e por que o "primeiro do mundo" é questionável?

O comunicado de imprensa chama o lançamento de "o primeiro do mundo", mas já em abril de 2026 a startup britânica Lumai havia colocado uma LLM completa para rodar em seu servidor Iris. A arquitetura é outra: em vez de guias de onda planos de silício, como na Q.ANT, usa óptica tridimensional com lentes e feixes de luz no espaço livre. Segundo a Lumai, modelos da classe do Llama 70B rodam em tempo real com 90% de economia de energia.

O que esperar da qualidade?

Substituir a atenção por uma camada de Fourier foi ideia anterior à fotônica: em 2021, o Google fez isso na arquitetura FNet. O treinamento ficou de 70% a 80% mais rápido, mas o modelo manteve apenas de 92% a 97% da acurácia do BERT no teste GLUE. Além disso, o FNet era um encoder, e não um modelo generativo, que escreve o texto palavra por palavra.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…