أعلنت Google عن نظامَي TPU جديدين في 9 نوفمبر — TPU 8tx وTPU 8i Max — لتوسّع محفظة TPU من الجيل الثامن إلى أربعة أنظمة في عام واحد، وهو ما تقول الشركة إنه سابقة. وينضمان إلى TPU 8t للتدريب واسع النطاق وTPU 8i للاستدلال الفوري، اللذين قُدّما في مؤتمر Google Cloud Next في أبريل.
صُمم TPU 8tx للاستدلال الآمن والسرّي والتدريب صغير النطاق. ويجمع بين سيليكون 8t ومعالجات AMD EPYC من الجيل الخامس وشبكة Boardfly منخفضة زمن الاستجابة من Google، وتقول Google إنه يحقق زمن استجابة أقل بما يصل إلى مرتين مقارنةً بـTPU 8t مع أداء شبه معدوم من الحوسبة السرّية المدعومة بالعتاد، التي تحمي البيانات وأوزان النماذج أثناء استخدامها. أما TPU 8i Max فيعالج جدار الذاكرة: شريحتا TPU 8i في حزمة واحدة، ما يضاعف الحوسبة وذاكرة SRAM على الشريحة ونطاق ذاكرة النطاق العريض العالي مقارنةً بشريحة 8i واحدة، لخدمة نوافذ السياق الضخمة والاستدلال الكثيف بالذاكرة.
تشدد Google على أن هذين نظامان جديدان وليستا شريحتَي سيليكون جديدتين — فالتغيير في التغليف والشبكات وتكوين الذاكرة والأمان وليس في بنية شريحة جديدة. ولم تنشر الشركة أي أسعار عامة أو موعد إتاحة عامة أو تفاصيل طرح واسعة لأيٍّ من النظامين، والأرقام أعلاه صادرة عن Google ولم تُقَيَّم بشكل مستقل.
يستهدف النظامان القيود التي ترى Google أنها تعيق وكلاء الذكاء الاصطناعي للمؤسسات في الإنتاج: إبقاء البيانات الحساسة محمية أثناء استخدام النماذج لها فعليًا، وتغذية سياقات عمل ضخمة للوكلاء دون تجويع المعالجات. ويستهدف TPU 8tx المؤسسات الخاضعة للتنظيم والجهات الحكومية التي تشغّل نماذج خاصة على بيانات حساسة؛ بينما يستهدف TPU 8i Max الوكلاء الذين يعملون عبر قواعد برمجية كبيرة أو مدخلات فيديو طويلة.