Départ 23/11Cohorte 3 en direct Vibe Coding & Agents IA : 3 semaines, 9 sessions liveCohorte 3 (23/11) →
InfrastructureCode / SDK · Prêt à l'emploiHabr AI→ original

Q.ANT et AMD font tourner un LLM de 1 milliard de paramètres avec une puce optique à la place de l'attention

Plus le texte d'une requête à un LLM est long, plus le calcul et la mémoire du GPU consacrée au KV-cache (la mémoire de ce que le modèle a déjà lu) augmentent vite. Q.ANT et AMD ont remplacé une partie des couches d'attention d'un modèle de 1 milliard de paramètres par une puce optique qui calcule une transformée de Fourier avec de la lumière. La vitesse et la qualité ne sont pas divulguées, et ils ne sont pas les premiers : en avril, la britannique Lumai a fait tourner un LLM sur de l'optique. Pour un développeur, ce n'est pour l'instant qu'une démo : il est trop tôt pour changer de stack.

Traité par IA depuis Habr AI ; édité par Hamidun News
Q.ANT et AMD font tourner un LLM de 1 milliard de paramètres avec une puce optique à la place de l'attention
Source : Habr AI. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireHabr AI ↗
Rédacteur en chef
Chiffre clé #1Q.ANT promet des systèmes de série au second semestre 2027
Chiffre clé #2Un SDK ouvert en C et Python avec émulation sur CPU a été publié en septembre 2026
Chiffre clé #3En 2021, Google FNet conservait 92–97% de la précision de BERT sur GLUE

Imaginez un chatbot qui répond à partir de centaines de pages de contrats, ou un agent doté d'un long historique de conversation. Plus le texte reçu par un modèle de langage (LLM) est long, plus la charge augmente. Le mécanisme d'attention, où chaque mot est comparé à tous les autres, exige un volume de calcul qui croît de façon quadratique.

Quant au KV-cache, la zone de mémoire du GPU où le modèle stocke ce qu'il a déjà lu, il gonfle et évince tout le reste. L'entreprise allemande Q.ANT a tenté de contourner cette limite avec de la lumière : à la conférence SC26 de Chicago, elle a présenté avec AMD une inférence hybride (exécution d'un modèle déjà entraîné) sur un modèle d'environ 1 milliard de paramètres.

Une partie du travail d'attention y est assurée non par le GPU, mais par un coprocesseur photonique. Si vous payez des GPU pour des contextes longs, c'est à suivre, mais il n'y a encore rien à acheter : aucun chiffre de vitesse ni de qualité n'a été publié.

Ce qui a été montré

Une partie des couches du modèle a été déportée du GPU vers le coprocesseur photonique Q.ANT NPU Gen 2+. Celui-ci calcule de manière optique une transformée de Fourier discrète (une opération mathématique qui mélange l'information entre les mots selon une formule fixe), en un seul passage du signal lumineux. D'après le rapport technique, l'expérience a fait tourner un modèle de langage d'environ 1 milliard de paramètres sur un accélérateur AMD Instinct MI210 associé à la puce photonique. Utz Bacher, vice-président logiciel de Q.ANT, appelle cette approche les « couches d'attention de Fourier » et parle d'un prototype précoce.

Voici l'idée en termes simples. L'attention classique ressemble à une réunion où chaque participant s'entretient à tour de rôle avec tous les autres. La transformée de Fourier, elle, mélange l'information selon un schéma prédéfini, sans comparaisons deux à deux. C'est moins coûteux, et en optique le calcul est quasi instantané. Toutes les autres couches du transformeur restent sur le GPU AMD classique.

Ce que l'entreprise n'a pas divulgué, et pourquoi le « premier au monde » est contestable

Le communiqué de presse qualifie cette démonstration de « première mondiale ». Pourtant, dès avril 2026, la start-up britannique Lumai a fait tourner un LLM complet sur son serveur Iris. Son architecture est différente : non pas des guides d'ondes plats en silicium comme chez Q.ANT, mais une optique en trois dimensions, avec des lentilles et des faisceaux lumineux en espace libre. Selon Lumai, des modèles de la classe de Llama 70B fonctionnent en temps réel avec 90% d'économie d'énergie.

La démonstration de Q.ANT comporte plus de zones d'ombre que de données :

  • Le modèle précis n'est pas nommé. On ignore comment le problème du masque causal (l'interdiction de « regarder » les mots futurs pendant la génération pas à pas) a été résolu, et quelles couches sont restées sur le GPU.
  • Il n'y a ni perplexité (la mesure de la « surprise » du modèle face au texte), ni résultats sur des benchmarks standard. On attend des tests sur Artificial Analysis.
  • Ni le gain en tokens par seconde, ni la compression réelle du KV-cache ne sont divulgués. La baisse de la consommation d'énergie est décrite seulement comme « potentiellement significative ».

Plus tôt, en juin 2026 à la conférence ISC de Hambourg, Q.ANT avait présenté, sur une puce de la génération précédente, un modèle de diffusion de 59 millions de paramètres pour la génération d'images, ainsi que l'architecture TiRex fondée sur xLSTM. L'entreprise avait alors annoncé une efficacité énergétique 30 fois supérieure, mais ce chiffre portait sur le circuit optique lui-même et il s'agissait de valeurs calculées.

Quel impact sur la qualité ?

Remplacer l'attention par une couche de Fourier est une idée antérieure à la photonique : en 2021, Google l'a fait avec l'architecture FNet. L'entraînement a été accéléré de 70–80%, mais le modèle ne conservait que 92–97% de la précision de BERT sur le test GLUE. De plus, FNet était un encodeur, et non un modèle génératif qui écrit le texte mot après mot.

La version optique hérite des mêmes limites architecturales, avec un surcoût en plus : à chaque couche, il faut convertir les tenseurs du numérique vers la lumière puis inversement, et les transférer entre le GPU et le coprocesseur. Si ces transferts absorbent le gain, il n'y aura aucune accélération.

Que faire en tant que développeur ?

Q.ANT prévoit de commercialiser ses systèmes de série au second semestre 2027. Les accélérateurs de la génération précédente sont accessibles depuis le 9 novembre en bêta fermée sur des serveurs dédiés d'IONOS en Allemagne. Des puces ont aussi été envoyées aux centres de supercalcul allemands LRZ et JSC, mais aucun rapport public indépendant n'en est encore issu.

Il est déjà possible d'expérimenter l'idée : en septembre 2026, l'entreprise a publié un SDK ouvert avec une API en C et Python et une émulation sur CPU. Il est en cours de mise à jour pour les couches de Fourier Gen 2+.

Deux chiffres diront si l'hybride est viable : la perplexité comparée à celle d'un modèle de 1 milliard de paramètres identique avec attention classique, et un gain honnête en tokens par seconde en inférence réelle. Sans eux, parler de remplacer l'attention est prématuré. Reste à savoir ce qui sera le plus difficile : amener le matériel optique jusqu'à la série, ou convaincre les développeurs de réécrire leurs modèles pour lui.

Dossier

Questions clés sur cet article

Quel impact sur la qualité ?

Remplacer l'attention par une couche de Fourier est une idée antérieure à la photonique : en 2021, Google l'a fait avec l'architecture FNet. L'entraînement a été accéléré de 70–80%, mais le modèle ne conservait que 92–97% de la précision de BERT sur le test GLUE. De plus, FNet était un encodeur, et non un modèle génératif qui écrit le texte mot après mot.

Que faire en tant que développeur ?

Q.ANT prévoit de commercialiser ses systèmes de série au second semestre 2027. Les accélérateurs de la génération précédente sont accessibles depuis le 9 novembre en bêta fermée sur des serveurs dédiés d'IONOS en Allemagne. Des puces ont aussi été envoyées aux centres de supercalcul allemands LRZ et JSC, mais aucun rapport public indépendant n'en est encore issu. Il est déjà possible d'expérimenter l'idée : en septembre 2026, l'entreprise a publié un SDK ouvert avec une API en C et Python et une émulation sur CPU.

Que sait-on sur Ce qui a été montré ?

Une partie des couches du modèle a été déportée du GPU vers le coprocesseur photonique Q.ANT NPU Gen 2+. Celui-ci calcule de manière optique une transformée de Fourier discrète (une opération mathématique qui mélange l'information entre les mots selon une formule fixe), en un seul passage du signal lumineux. D'après le rapport technique, l'expérience a fait tourner un modèle de langage d'environ 1 milliard de paramètres sur un accélérateur AMD Instinct MI210 associé à la puce photonique.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…