Google prépare de nouvelles puces d'IA dédiées à l'inférence et défie Nvidia

Google défie Nvidia : le groupe développe une nouvelle génération de puces d'IA maison, conçues pour l'inférence, c'est-à-dire la phase finale du fonctionnement des réseaux de neurones, lorsque le modèle entraîné traite en temps réel les requêtes des utilisateurs. Les puces d'inférence diffèrent fondamentalement de celles qui servent à l'entraînement. Entraîner un grand modèle de langage mobilise des milliers de GPU pendant des mois : c'est une dépense d'investissement ponctuelle.

L'inférence, elle, représente une charge permanente : chaque fois qu'un utilisateur envoie une requête à Gemini, ChatGPT ou à tout autre service d'IA, une puce exécute une inférence. À mesure que les applications d'IA atteignent des centaines de millions d'utilisateurs, ce sont les coûts d'inférence qui deviennent le premier poste de dépenses des entreprises tech. Selon plusieurs estimations, ils dépasseront d'ici 2027 les coûts d'entraînement d'un facteur trois à quatre.

Google bâtit depuis longtemps sa propre stratégie silicium. L'entreprise conçoit des TPU (Tensor Processing Units) depuis 2015, bien avant que les puces d'IA ne fassent la une. Jusqu'ici, ces processeurs servaient surtout en interne, dans Google Cloud et pour l'entraînement des modèles Gemini.

Google veut désormais créer du matériel spécialisé pour l'inférence, avec un débit plus élevé et une consommation d'énergie plus faible par requête. Pour Nvidia, dont les puces H100 et H200 se sont imposées comme le standard des data centers dans le monde entier, le défi est frontal. Google figure parmi les plus gros clients de Nvidia au monde, et basculer ne serait-ce qu'une partie de sa charge vers son propre matériel représenterait un manque à gagner important pour l'entreprise de Santa Clara.

En parallèle, un autre événement se prépare dans le secteur des puces d'IA : Cerebras Systems a annoncé son intention d'entrer en Bourse. L'entreprise est connue pour son produit phare, le Wafer-Scale Engine, qui transforme en pratique une galette de silicium entière en un processeur unique. Cette architecture supprime les latences de transfert de données entre puces distinctes et accélère le traitement des grands modèles.

Cerebras avait déjà tenté une IPO, avant de retirer sa demande. Ce retour vers la Bourse envoie un signal au marché : malgré le refroidissement d'une partie des investisseurs en IA, les architectures de puces alternatives restent perçues comme un actif prometteur. L'entreprise présente ses solutions comme particulièrement efficaces pour exécuter des modèles ouverts dans des environnements d'entreprise fermés, un segment en forte croissance sous l'effet des exigences de sécurité et de souveraineté des données.

La troisième actualité de la semaine vient de l'espace. Blue Origin a lancé avec succès sa fusée New Glenn et fait atterrir son booster réutilisable, une étape technique importante vers la baisse du coût des lancements. Mais la charge utile, un satellite d'AST SpaceMobile, n'a pas atteint l'orbite prévue.

AST SpaceMobile construit un réseau mondial d'internet haut débit fonctionnant directement avec les smartphones, sans terminal spécifique. L'échec orbital s'est immédiatement répercuté sur le cours : l'action de l'entreprise a chuté. Le marché a rappelé une fois de plus que, dans le spatial, succès technique et résultat commercial sont deux choses différentes.

Ensemble, ces trois actualités dessinent le portrait de l'économie technologique du milieu des années 2020. La course aux puces d'IA dépasse le cadre d'un duopole : au-delà de Nvidia et AMD, des géants de la tech dotés de leur propre silicium et des startups spécialisées comme Cerebras entrent dans la bataille des infrastructures. La question de savoir qui contrôlera l'infrastructure physique de l'ère de l'IA reste ouverte.