Google揭曉代號Trillium的第6代TPU 加速Google Cloud平臺應用服務執行效率

在此次Google I/O 2024中,Google宣佈推出代號Trillium的第6代TPU,預計會在今年底透過Google Cloud服務提供,另外也宣佈今年4月於Google Cloud Next'24活動上公佈代號「Axion」的客製化處理器將於年底前上線,而與NVIDIA合作的Blackwell GPU則會在2025年初提供使用。

相比先前推出的TPU v5e,Google表示第6代TPU將能提升4.7倍的加速效能,同時在設計強化矩陣乘法單元 (MXU),並且提高運作時脈,以及藉由增加1倍的HBM高密度記憶體頻寬與容量加速資料運算傳輸效率。

此外,第6代TPU更具備加快處理排序及推薦工作負載的第三代SparseCore嵌入式加速器,並且透過客製化光通訊技術讓晶片對晶片互連頻寬相比TPU v5e增加一倍。而第6代TPU能以256組構成單一Pod,並且可擴展至數百萬個Pod規模,同時所有TPU都能以每秒達PB級別傳輸速度互連運作。

Google強調其提供更完整的運算架構選擇,並且藉由開源軟體形式簡化開發難度,其建構基礎架構環境更以液冷維持穩定運作,同時更透過海底光纖電纜串接位於全球各地的數據中心,藉此讓建構在Google Cloud環境的雲端運算服務能以更快反應速度運作。

而當前除了透過自有TPU進行加速運算,Google也與NVIDIA、AMD及Intel在內業者合作,甚至本身也推出以Arm Neoverse架構打造的「Axion」客製化處理器,藉此滿足更多開發者不同硬體環境佈署應用需求。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》