Google s'attaque au marché des puces d'inférence et défie Nvidia

Google a fait de ses propres puces AI l'un des produits les plus rares de l'industrie technologique. Le groupe entend désormais consolider cet avantage avec une nouvelle génération de processeurs taillés pour l'inférence. L'inférence intervient après l'entraînement du modèle : c'est la phase où un réseau neuronal déjà prêt répond aux requêtes des utilisateurs, génère du texte ou analyse des données.

C'est là que se concentre l'essentiel de la charge de calcul des systèmes AI en production, et c'est là que se joue aujourd'hui la principale bataille concurrentielle du marché des semi-conducteurs. Alphabet, maison mère de Google, prévoit de présenter des puces conçues spécifiquement pour les tâches d'inférence. Selon Bloomberg, la demande pour les TPU actuels de Google est déjà si forte que même des concurrents directs de l'entreprise dans le développement de l'AI en achètent, un scénario qui paraissait impensable il y a encore quelques années.

Nvidia conserve sa position dominante sur le marché des accélérateurs AI, mais sa part est désormais contestée sur plusieurs fronts. Google, AMD ainsi que des start-up comme Cerebras et Groq proposent des alternatives qui, dans certains scénarios, se révèlent plus rapides ou moins chères. La croissance de la consommation de services AI crée un marché si vaste qu'il laisse de la place à plusieurs grands acteurs.

Le principal atout de Google tient à son intégration verticale : l'entreprise conçoit ses puces, construit ses data centers et développe ses propres modèles AI. Elle peut ainsi optimiser chaque couche de la pile pour des tâches précises et offrir à ses clients des performances difficiles à reproduire sur du matériel standard. Pour le marché, c'est le signe d'un changement structurel.

L'époque où Nvidia s'imposait comme le choix sans alternative pour toute tâche d'AI touche à sa fin. Les grands fournisseurs de cloud (Google, Amazon, Microsoft) développent de plus en plus leur propre silicium. Ils réduisent ainsi leur dépendance aux fournisseurs externes et créent une nouvelle dynamique concurrentielle dans l'un des segments à la croissance la plus rapide de l'industrie des semi-conducteurs.