集邦諮詢:英偉達H200將成下半年AI服務器市場出貨主力

今日TrendForce集邦諮詢發佈最新研究,稱供應鏈調查結果顯示近期CSP(雲端服務業者)和OEM(原始設備製造商)客戶將提高對H200的需求,預計該GPU將於2024年第三季後成爲NVIDIA供貨主力。

在NVIDIA今年的產品規劃中,H200是首款採用HBM3e(第五代高帶寬內存) 8Hi(8層堆疊)的GPU,後續的Blackwell系列芯片也將全面升級至HBM3e。Micron(美光科技)和SK hynix(SK海力士)已於2024年第一季底分別完成HBM3e驗證,並於第二季起批量出貨。其中,Micron產品主要用於H200,SK hynix則同時供應H200和B100系列。Samsung(三星)雖較晚推出HBM3e,但已完成驗證,並開始正式出貨HBM3e 8Hi,主要用於H200,同時Blackwell系列的驗證工作也在穩步推進。

在中國市場方面,該機構預計,市場也因雲端客戶建置本地端大型語言模型(LLM)、搜索引擎和聊天機器人(ChatBot),對搭載H20的AI服務器需求從2024年第二季起有較顯著提升。