大摩估:輝達記憶體成本暴增435% 最新AI機櫃成本逼近780萬美元
多家科技媒體週四 (21 日) 報導,AI 供應鏈價值版圖正出現變化,摩根士丹利 (大摩) 最新拆解輝達 (NVDA-US) 下一代 Rubin VR200 NVL72 機櫃後發現,過去由 GPU 主導的成本結構開始鬆動,PCB、MLCC 與 ABF 載板等零組件價值快速提升,記憶體占比也大幅攀升,顯示 AI 硬體紅利正逐步擴散至更廣泛供應鏈。
大摩指出,輝達下一代 Rubin VR200 NVL72 機櫃仍沿用既有 Oberon 機箱架構,但系統內部規格全面升級,包括 NVLink 交換晶片、網路元件、印刷電路板 (PCB)、散熱模組、電源供應及封裝技術等均更加複雜,帶動整體物料成本 (BOM) 明顯上升。
大摩估計,輝達下一代 Rubin VR200 NVL72 機櫃向 ODM 採購價格約達 780 萬美元,幾乎較前代 GB300 NVL72 的 399 萬美元翻倍,但這波成本提升並非完全由 GPU 帶動。
VR200 機櫃中印刷電路板 (PCB) 價值增幅最大,較 GB300 暴增 233%,其次為 MLCC(積層陶瓷電容) 成長 182%、ABF 載板增加 82%、電源系統增加 32%,液冷散熱價值也提高 12%。
然而,真正推升幅度最大的是記憶體,以金額計算,VR200 單櫃記憶體成本約達 200 萬美元,成本從 GB300 的約 37 萬美元暴增,增幅達 435%。
記憶體成本大幅增加主要來自兩大因素
首先,VR200 NVL72 搭載的 LPDDR5X 容量提升至 54TB,較 GB200 NVL72 的 17TB 增加逾三倍。
SemiAnalysis 估計,輝達今年第一季 LPDDR5X 採購成本約每 GB 8 美元,但隨需求持續升溫,價格仍可能進一步上揚。
以目前價格估算,GB200 NVL72 的 LPDDR5X 價值約 13.6 萬美元,而 VR200 NVL72 已提高至約 40.8 萬美元;若價格升至每 GB 10 美元,僅 LPDDR5X 成本就可能達到 54 萬美元。
此外,VR200 NVL72 還新增大量 3D NAND 儲存配置,單套機櫃儲存成本約達 100 萬美元以上,而 GB200 NVL72 幾乎沒有相關配置。
市場分析,Vera Rubin 平台除搭載大量 LPDDR5X 與 3D NAND 外,Rubin GPU 本身還將採用 HBM4 記憶體,使整體記憶體占比快速攀升。在 AI 訓練與推論需求持續爆發下,記憶體正從配角躍升為 AI 基礎建設成本核心。
Framework 資料顯示,目前 DDR5 合約價已升至每 GB 12 至 16 美元;DRAMeXchange 數據則顯示,DDR5 現貨價格平均約每 GB 20 美元,而成本更高的 LPDDR5X 搭配 Vera CPU 專用 SOCAMM2 模組後,價格還將進一步提高。