Google dévoile les processeurs TPU 8tx et TPU 8i Max pour l'inférence confidentielle et les contextes volumineux
12 novembre 2026 · 3 min de lecture
Google a lancé deux nouveaux systèmes de processeurs TPU de huitième génération : le TPU 8tx, conçu pour l'inférence confidentielle au niveau du matériel, et le TPU 8i Max, qui combine deux puces TPU 8i dans un seul boîtier pour supporter des fenêtres de contexte volumineuses.
Le TPU 8tx s'appuie sur le même silicium que le TPU 8t et fonctionne avec un processeur hôte AMD EPYC de cinquième génération. Il est conçu pour les organisations des secteurs fortement réglementés et les agences gouvernementales qui doivent exécuter des modèles et des agents d'intelligence artificielle avec des données sensibles. Alors que les données sont généralement chiffrées lors du stockage ou de la transmission, elles doivent être déchiffrées en mémoire pendant le traitement. Le TPU 8tx intègre des capacités de sécurité au niveau du matériel pour protéger et isoler les données ainsi que les poids des modèles pendant le traitement. Le système utilise également le réseau Boardfly à faible latence, identique au TPU 8i, ce qui réduit la latence jusqu'à deux fois par rapport au TPU 8t sans affecter sensiblement les performances.
Le TPU 8i Max résout le problème du mur mémoire qui survient lorsque plusieurs dizaines d'agents d'intelligence artificielle travaillent ensemble sur une base de code complète ou des vidéos de plusieurs heures, ce qui fait de la bande passante mémoire un goulot d'étranglement. En regroupant deux puces TPU 8i dans un seul boîtier, le TPU 8i Max double la puissance de calcul, la bande passante SRAM et HBM par rapport au TPU 8i. Comme davantage de silicium peut être installé dans le même espace de baie, les centres de données obtiennent une puissance de calcul plus élevée par pied carré et par watt.
Cette année, Google a lancé quatre systèmes TPU de huitième génération, une première pour l'entreprise en une seule année. Le TPU 8t est destiné à l'entraînement des modèles, le TPU 8i aux tâches de raisonnement à faible latence, le TPU 8tx à l'informatique confidentielle et le TPU 8i Max aux fenêtres de contexte volumineuses et à la densité de calcul maximale par baie. Ces nouveaux systèmes ne utilisent pas de nouvelles puces, mais plutôt une réorganisation du calcul, de la mise en réseau, du stockage et de l'emballage autour des puces existantes, ce qui permet à Google de fournir des systèmes spécialisés en quelques mois plutôt qu'en années.
Google a également ouvert plusieurs outils logiciels. TorchTPU, un projet open source, permet au code PyTorch et aux modèles de Hugging Face de s'exécuter directement sur les TPU sans modification de code, avec des backends pour vLLM et SGLang. Une suite d'agents TPU open source en aperçu fonctionne avec Claude Code, Cursor et Google Antigravity pour permettre aux utilisateurs de commencer à utiliser les TPU en quelques minutes. Le moteur XLA Serving Engine permet d'entraîner les modèles en Python puis de les servir sur un runtime en langage C++ sur les TPU, les GPU et les processeurs. Le moteur de calcul des agents suspend et reprend automatiquement les sessions des agents en attente de réponses pour réduire les coûts d'infrastructure.
Pour la gestion des grandes grappes, Google a ouvert TPU Sync en open source, qui unifie la mémoire HBM des puces, la DRAM de l'hôte, le stockage partagé et le réseau du centre de données dans une seule hiérarchie mémoire, réduisant la latence de transmission du cache de clé-valeur et du temps jusqu'au premier jeton de plus de quatre-vingt-dix pour cent. Cloud Pathways est désormais généralement disponible sur Google Kubernetes Engine, permettant de contrôler plusieurs tranches de TPU à partir d'un seul contrôleur comme une seule machine. Le découpage dynamique de GKE, également généralement disponible, utilise le commutage de circuits optiques pour assembler ou diviser les tranches de TPU instantanément sans créer de nouveaux pools de nœuds, accélérant le démarrage des tâches jusqu'à cinq fois et la récupération après défaillance jusqu'à quatre virgule cinq fois.