Alphabet discute avec Marvell de deux nouvelles puces d'IA pour accélérer l'inférence dans les services de Google

Alphabet a engagé des discussions avec Marvell pour développer deux puces d'IA spécialisées dans l'inférence, l'étape où un modèle déjà entraîné traite de vraies requêtes d'utilisateurs. Si le projet aboutit, Google disposera d'un matériel conçu non pour des records de laboratoire, mais pour des réponses rapides et massives dans des services interactifs.

Quelles puces sont en discussion

Les discussions portent sur deux composants distincts. Le premier est un module de mémoire censé accélérer le transfert de données au sein du système d'IA. Pour l'inférence, c'est crucial : même un accélérateur puissant perd son intérêt si le modèle se heurte à la bande passante de la mémoire, aux latences d'échange et à une alimentation lente en données. Dans les grands modèles de langage, ces goulots d'étranglement déterminent souvent la rapidité et le coût avec lesquels un système peut absorber le flux quotidien de requêtes.

Le second composant est une version mise à jour du TPU, les processeurs tensoriels maison de Google, orientée vers les applications interactives. Il s'agit de scénarios où l'utilisateur attend une réponse immédiate : recherche, assistants d'IA, génération de texte, suggestions dans l'interface. Ce choix traduit un déplacement des priorités : la valeur se crée de moins en moins au moment de l'entraînement du modèle, et de plus en plus lors de son exécution permanente sur des millions de requêtes courtes, où comptent une latence stable, la prévisibilité et le coût de chaque réponse.

Pourquoi Alphabet a besoin de Marvell

Pour Alphabet, l'alliance avec Marvell paraît pragmatique. Marvell est solide dans l'infrastructure de centres de données et les puces spécialisées, tandis que Google développe depuis de nombreuses années sa propre gamme de TPU. Plutôt que de tout faire en interne, Alphabet peut partager les responsabilités : garder la maîtrise de l'architecture de l'accélérateur et s'appuyer sur un partenaire pour les parties du système où la mémoire, les interconnexions, le packaging et l'échange rapide de données entre composants pèsent le plus.

L'accord a aussi une logique économique. L'inférence devient rapidement l'une des couches les plus coûteuses de l'infrastructure d'IA, car elle tourne sur un trafic d'utilisateurs permanent. Plus le matériel est adapté à un type de charge précis, plus il est facile de faire monter un service en échelle sans explosion des coûts. Pour Google, c'est l'occasion de réduire le coût de chaque réponse et de mieux maîtriser sa propre pile technologique ; pour Marvell, de renforcer sa position sur un marché des accélérateurs d'IA en surchauffe.

• Un module de mémoire dédié peut réduire les goulots d'étranglement avec les grands modèles
• Un TPU mis à jour convient mieux aux scénarios conversationnels et autres usages interactifs
• Une puce spécialisée offre généralement plus d'efficacité par watt et par dollar
• Pour Google, c'est un moyen de renforcer son contrôle sur sa propre infrastructure d'IA
• Pour Marvell, c'est une entrée plus profonde sur le marché des accélérateurs pour charges d'IA

Où l'effet se fera sentir

Si les discussions débouchent sur de vraies livraisons, ce ne sont pas les utilisateurs qui en verront l'effet en premier, mais les équipes chargées de l'infrastructure de Google. L'inférence n'est pas une exécution ponctuelle d'un modèle, mais un fonctionnement continu sous charge, où le système doit répondre vite à un très grand nombre de requêtes à la suite. Dans ce régime, le calcul en soi ne suffit pas : un temps de réponse prévisible, l'efficacité énergétique et l'absence de goulots d'étranglement dans le transfert de données entre la mémoire et l'accélérateur comptent aussi.

En pratique, cela signifie un réglage plus fin du matériel pour des produits précis. Le marché s'éloigne peu à peu de l'idée d'une puce universelle, aussi bonne pour toutes les tâches d'IA. À la place, les entreprises assemblent des combinaisons distinctes de composants pour l'entraînement, l'inférence et les modes interactifs. Les discussions entre Alphabet et Marvell s'inscrivent bien dans cette tendance : les gagnants ne seront pas ceux qui ont simplement plus de GPU, mais ceux qui conçoivent le plus précisément toute la chaîne d'exécution du modèle pour la charge réelle.

Ce que cela signifie

Les discussions entre Alphabet et Marvell montrent que la nouvelle course à l'IA ne se joue plus seulement autour des modèles, mais aussi autour du matériel spécialisé pour les services du quotidien. Celui qui saura fournir une réponse rapide à moindre coût et de façon plus stable prendra l'avantage.