Départ 23/11Cohorte 3 en direct Vibe Coding & Agents IA : 3 semaines, 9 sessions liveCohorte 3 (23/11) →
SortieAnalyse · Sur le radarHabr AI→ original

Google lance les TPU 8tx et 8i Max : protection des données pendant le calcul et deux fois plus de mémoire

Google ajoute à sa huitième génération de TPU deux accélérateurs : l'un protège les données pendant les calculs, l'autre gère un contexte très volumineux. Le TPU 8tx isole les données et les poids du modèle même en cours d'exécution, et la latence entre puces est jusqu'à deux fois inférieure à celle du TPU 8t. Le TPU 8i Max regroupe deux puces 8i dans un même boîtier : deux fois plus de calcul, de SRAM et de bande passante HBM. Le choix du matériel dépend désormais de la tâche : données confidentielles ou agents à long contexte.

Traité par IA depuis Habr AI ; édité par Hamidun News
Google lance les TPU 8tx et 8i Max : protection des données pendant le calcul et deux fois plus de mémoire
Source : Habr AI. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireHabr AI ↗
Rédacteur en chef
Chiffre clé #1Le TPU 8tx fonctionne sur des processeurs serveur AMD EPYC de cinquième génération
Chiffre clé #2Le TPU 8i Max occupe dans une baie l'emplacement d'un seul système 8i, et non de deux
Chiffre clé #3La famille de huitième génération compte désormais quatre variantes de TPU

Google n'a pas conçu un accélérateur universel pour tous les cas et a étendu sa huitième génération de TPU avec deux systèmes supplémentaires : le TPU 8tx et le TPU 8i Max. Le premier s'adresse à ceux qui exécutent des modèles sur des données qui ne doivent être montrées à personne, y compris au fournisseur cloud lui-même. Le second est destiné aux agents qui doivent conserver en mémoire un contexte très volumineux. Les deux systèmes sont issus de puces déjà existantes, mais ils sont conçus pour répondre à des problèmes différents.

Protéger les données pendant leur traitement

Le schéma de sécurité habituel est le suivant : les données sont chiffrées sur disque et lors de leur transmission sur le réseau. Mais pour qu'un modèle puisse les traiter, il faut les déchiffrer dans la mémoire vive. C'est à cet instant précis qu'elles sont vulnérables. C'est comme ranger des documents dans un coffre et les transporter dans un véhicule blindé, avant de les lire à un contrôle d'accès ouvert à tous.

Le TPU 8tx comble cette lacune. Il repose sur la même puce que le TPU 8t, mais Google a modifié la configuration du système : elle utilise des processeurs serveur AMD EPYC de cinquième génération et ajoute une protection matérielle des données pendant les calculs. Selon l'entreprise, les données sensibles et les poids du modèle restent isolés, même pendant l'exécution.

Le public visé est clair : entreprises et organismes publics qui font tourner leurs propres modèles sur des données confidentielles. Un même système peut servir des requêtes ordinaires, affiner un modèle sur des documents internes, réaliser de la distillation (transfert des connaissances d'un grand modèle vers un petit) et entraîner des agents par apprentissage par renforcement. Il n'est donc pas nécessaire de maintenir un environnement sécurisé distinct pour chaque tâche.

Autre point : le TPU 8tx reprend le réseau Boardfly, que Google avait précédemment conçu pour le TPU 8i. Selon l'entreprise, la latence lors du travail avec plusieurs accélérateurs peut être jusqu'à deux fois inférieure à celle du TPU 8t. Par ailleurs, Google affirme que la protection supplémentaire n'affecte presque pas les performances. Il s'agit d'une déclaration de l'entreprise elle-même ; l'article ne contient aucune mesure indépendante.

Deux puces dans un même boîtier pour les longs contextes

Le TPU 8i Max répond à une autre problématique. Lorsqu'un agent analyse un vaste dépôt de code, un contrat de plusieurs centaines de pages ou plusieurs heures de vidéo, il manque rapidement de mémoire et de débit pour alimenter les unités de calcul. Ajouter des capacités de calcul ne sert alors à rien : l'accélérateur reste inactif en attendant les données.

Google a choisi une solution directe : placer deux puces TPU 8i dans un même boîtier. Le système dispose ainsi de deux fois plus de ressources de calcul, de SRAM (mémoire rapide intégrée directement dans la puce) et de bande passante HBM qu'un TPU 8i standard. Les deux puces occupent dans une baie le même espace qu'un seul système auparavant, ce qui augmente la densité de calcul.

Concrètement, un agent disposant d'un contexte très large peut tenir entièrement sur un seul nœud, au lieu d'être réparti sur plusieurs machines. Moins d'échanges de données entre accélérateurs signifie généralement moins de latence.

Ce que change la gamme

La huitième génération de TPU comprend désormais quatre variantes :

  • TPU 8t pour l'entraînement de grands modèles ;
  • TPU 8i pour l'inférence rapide ;
  • TPU 8tx pour le traitement de données confidentielles ;
  • TPU 8i Max pour les tâches à très long contexte.

Ce découpage révèle la direction du marché. L'entraînement, l'inférence courante, les données confidentielles et les longs contextes imposent des exigences matérielles différentes, et les solutions universelles perdent du terrain face aux produits spécialisés. D'autres fabricants d'accélérateurs suivent déjà une voie similaire.

Que cela signifie-t-il pour les développeurs et les fondateurs ? Si vous développez un produit pour les banques, la santé ou le secteur public, la protection matérielle des données pendant le calcul peut devenir un argument face aux équipes de sécurité. Si vous créez des agents de programmation ou des outils d'analyse de vidéos et de documents, il est pertinent de regarder les configurations offrant une grande capacité mémoire, et pas seulement le nombre d'opérations par seconde.

Ce que l'annonce ne dit pas

Le communiqué ne donne ni prix, ni calendrier de disponibilité, ni comparaison avec les accélérateurs des concurrents. Il ne précise pas non plus la technologie d'isolation utilisée par le TPU 8tx, ni ce qui est considéré comme une partie de confiance dans ce dispositif. Les chiffres de latence « jusqu'à deux fois inférieure » et « presque sans impact » restent pour l'instant des affirmations de Google. Tant qu'aucun test indépendant ni grille tarifaire n'est publié, il est prématuré de conclure à un avantage pour une charge de travail donnée, mais l'éventail des variantes donne déjà une indication sur la manière de choisir du matériel pour les agents.

Dossier

Questions clés sur cet article

Que sait-on sur Protéger les données pendant leur traitement ?

Le schéma de sécurité habituel est le suivant : les données sont chiffrées sur disque et lors de leur transmission sur le réseau. Mais pour qu'un modèle puisse les traiter, il faut les déchiffrer dans la mémoire vive. C'est à cet instant précis qu'elles sont vulnérables. C'est comme ranger des documents dans un coffre et les transporter dans un véhicule blindé, avant de les lire à un contrôle d'accès ouvert à tous. Le TPU 8tx comble cette lacune.

Que sait-on sur Deux puces dans un même boîtier pour les longs contextes ?

Le TPU 8i Max répond à une autre problématique. Lorsqu'un agent analyse un vaste dépôt de code, un contrat de plusieurs centaines de pages ou plusieurs heures de vidéo, il manque rapidement de mémoire et de débit pour alimenter les unités de calcul. Ajouter des capacités de calcul ne sert alors à rien : l'accélérateur reste inactif en attendant les données. Google a choisi une solution directe : placer deux puces TPU 8i dans un même boîtier.

Que sait-on sur Ce que change la gamme ?

La huitième génération de TPU comprend désormais quatre variantes : TPU 8t pour l'entraînement de grands modèles ; TPU 8i pour l'inférence rapide ; TPU 8tx pour le traitement de données confidentielles ; TPU 8i Max pour les tâches à très long contexte. Ce découpage révèle la direction du marché. L'entraînement, l'inférence courante, les données confidentielles et les longs contextes imposent des exigences matérielles différentes, et les solutions universelles perdent du terrain face aux produits spécialisés.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Private AI Builders Community · Vibe Club

Ship AI Faster with Founders, Engineers & Weekly Architecture Reviews

Inside Vibe Club (hamidun.com/club) — weekly live masterminds with Zhemal Khamidun, Tech Radar, full LMS access, and 370+ production Claude Code skills.

Join Vibe Club →Explore Hamidun Academy
Qu'en pensez-vous ?
Chargement des commentaires…