Google a annoncé deux nouveaux systèmes TPU le 9 novembre — TPU 8tx et TPU 8i Max — élargissant son portefeuille de TPU de huitième génération à quatre systèmes en une seule année, une première selon l'entreprise. Ils rejoignent le TPU 8t pour l'entraînement à grande échelle et le TPU 8i pour l'inférence en temps réel, tous deux présentés à Google Cloud Next en avril.
TPU 8tx est conçu pour l'inférence sécurisée et confidentielle et l'entraînement à petite échelle. Il associe le silicium 8t à des processeurs hôtes AMD EPYC de cinquième génération et au réseau à faible latence Boardfly de Google, et Google revendique une latence jusqu'à deux fois plus faible que le TPU 8t avec une pénalité de performance quasi nulle grâce à son informatique confidentielle matérielle, qui protège les données et les poids des modèles pendant leur utilisation. TPU 8i Max s'attaque au mur de la mémoire : deux puces TPU 8i dans un seul boîtier, doublant le calcul, la SRAM sur puce et la bande passante mémoire à haut débit par rapport à un seul 8i, pour les fenêtres de contexte massives et l'inférence gourmande en mémoire.
Google insiste : ce sont de nouveaux systèmes, pas du nouveau silicium — le changement porte sur le packaging, le réseau, la configuration mémoire et la sécurité plutôt que sur une nouvelle architecture de puce. L'entreprise n'a publié aucun tarif public, aucune date de disponibilité générale ni aucun détail de déploiement large pour l'un ou l'autre système, et les chiffres ci-dessus sont publiés par Google, pas mesurés de façon indépendante.
Les deux systèmes ciblent les contraintes que Google voit bloquer les agents IA d'entreprise en production : garder les données sensibles protégées pendant que les modèles les utilisent réellement, et alimenter d'énormes contextes de travail aux agents sans affamer les processeurs. TPU 8tx vise les entreprises réglementées et les charges gouvernementales qui exécutent des modèles propriétaires sur des données sensibles ; TPU 8i Max vise les agents qui travaillent sur de grandes bases de code ou de longues entrées vidéo.