Taalas défie les GPU : la logique câblée plutôt que la flexibilité, pour atteindre 17 000 tokens par seconde

Depuis dix ans, toute l'industrie de l'intelligence artificielle repose sur un axiome tacite : le silicium doit être flexible. Les modèles changent chaque semaine, les architectures évoluent chaque trimestre, et seuls les GPU programmables peuvent suivre la cadence. La start-up torontoise Taalas estime que cette logique a mené le secteur dans une impasse. Elle propose une alternative radicale : des puces à logique câblée, incapables de faire autre chose que de l'inférence, mais qui l'exécutent à 17 000 tokens par seconde.

Pour mesurer la portée de cette annonce, il faut rappeler le contexte. Les GPU modernes, du NVIDIA H100 aux derniers Blackwell, sont en substance des superordinateurs sur puce, capables d'effectuer des calculs arbitraires. Leur architecture hérite de plusieurs décennies d'évolution des processeurs graphiques : des milliers de cœurs programmables, des hiérarchies mémoire complexes, des bus de données flexibles.

Cette polyvalence permet de faire tourner sur le même matériel l'entraînement de modèles géants, l'inférence et des simulations scientifiques. Mais elle a un prix : consommation énergétique, latence et coût. Chaque cycle d'horloge consacré au décodage des instructions et à la gestion des flux de données représente de l'énergie et du temps qui ne servent pas à la multiplication de matrices proprement dite.

C'est précisément ce point que Taalas attaque. L'entreprise développe des puces dont les chemins de calcul sont gravés directement dans le silicium : c'est ce qu'on appelle la logique câblée (hardwired). Concrètement, la puce n'interprète pas un programme à la volée : elle incarne physiquement les opérations précises de l'architecture Transformer, à savoir les multiplications de matrices, les fonctions d'attention et la normalisation. Au lieu d'un processeur généraliste, on obtient un circuit électronique qui ne fait qu'une seule chose, mais avec un surcoût minimal.

Sur le principe, l'approche n'est pas nouvelle. Les ASIC (application-specific integrated circuits) sont utilisés depuis longtemps dans le minage de cryptomonnaies, les télécommunications et le traitement vidéo. Dès 2016, Google a présenté ses TPU, des processeurs tensoriels eux aussi spécialisés dans les calculs de réseaux de neurones, même s'ils conservent un certain degré de programmabilité. Taalas semble toutefois aller plus loin, en poussant la spécialisation à l'extrême pour maximiser les performances par token.

Le chiffre de 17 000 tokens par seconde mérite qu'on s'y attarde. À titre de comparaison, l'inférence d'un grand modèle de langage sur un seul GPU de la classe du H100 produit typiquement de quelques centaines à quelques milliers de tokens par seconde, selon la taille du modèle et du batch. Si Taalas atteint réellement la vitesse annoncée, à qualité et taille de modèle comparables, cela pourrait signifier une baisse d'un facteur multiple du coût de l'inférence, principal poste de dépenses des entreprises qui déploient des services d'IA en production.

Aujourd'hui, c'est le coût de l'inférence, et non celui de l'entraînement, qui détermine l'économie de la plupart des produits d'IA : chaque requête à ChatGPT, chaque appel à Copilot, chaque génération d'image se paie en temps GPU.

L'approche comporte cependant un risque évident et sérieux. Une logique câblée implique un couplage rigide à une architecture de modèle donnée. Si l'industrie abandonne demain les Transformers pour quelque chose de fondamentalement différent, par exemple des architectures fondées sur les state-space models ou des approches hybrides, les puces de Taalas risquent de se transformer en presse-papiers coûteux. C'est le dilemme classique de la spécialisation : on gagne en efficacité, mais on perd en adaptabilité. Google peut mettre à jour le logiciel de ses TPU, NVIDIA publie de nouveaux pilotes et de nouvelles bibliothèques CUDA, tandis que Taalas devra concevoir une nouvelle puce.

La start-up dispose néanmoins d'un contre-argument solide. L'architecture Transformer domine depuis huit ans et ne montre aucun signe de déclin imminent. Les opérations de base, multiplications de matrices et mécanisme d'attention, restent fondamentalement les mêmes de GPT-2 aux modèles les plus récents. Par ailleurs, la tendance à l'« inférence omniprésente » (ubiquitous inference), dont Taalas a fait son slogan, suppose que le calcul d'IA devienne aussi bon marché et accessible que l'électricité. Et pour cela, il faut justement des puces spécialisées et économes en énergie, pas des GPU généralistes onéreux.

Le contexte de marché joue aussi. La pénurie de GPU et la position de monopole de NVIDIA ont créé une forte demande d'alternatives. Les grands fournisseurs de cloud, Amazon, Google et Microsoft, développent déjà leurs propres puces. Des start-up comme Groq, Cerebras et SambaNova proposent des architectures non conventionnelles. Taalas s'inscrit dans cette tendance, mais occupe la position la plus radicale sur le spectre « flexibilité – spécialisation ».

La principale question à laquelle Taalas devra répondre n'est pas technique, mais économique. La start-up saura-t-elle produire et renouveler ses puces assez vite pour suivre l'évolution des modèles ? Parviendra-t-elle à convaincre ses clients que le pari de la logique câblée est justifié ? Si oui, nous pourrions assister au début d'une nouvelle ère, où l'inférence d'IA cessera d'être un luxe pour devenir une norme d'infrastructure. Sinon, ce sera une leçon de plus sur les raisons pour lesquelles l'industrie tient tant à la flexibilité.