記憶體牆困局!大摩:AI焦點從算力轉向數據效率 2030年新興記憶體市場上看230億美元

(圖:shutterstock)
(圖:shutterstock)

摩根士丹利 (下稱大摩) 週四 (16 日) 發布重磅報告《Global Technology: Innovating the Next-Generation Memory》,直指 AI 發展的下一個關鍵約束已從「計算擴展」轉向「記憶體牆(Memory Wall)」。

報告指出,GPU 決定了 AI 能跑多快,而記憶體決定了 AI 能跑多遠,系統級瓶頸正迫使產業從純粹算力競賽轉向數據效率與存儲架構的革命。

根據報告數據,AI 模型參數與推理 Token 呈指數級增長,但記憶體技術進步嚴重滯後。記憶體頻寬年增僅約 14%,而 AI Token 增長卻超 320 倍,形成巨大「頻寬鴻溝」。

成本端同樣承壓,預計到 2027 年,記憶體支出將佔雲端服務商資本開支的 40%,2023 年僅 12%,雲端存儲支出 2030 年更將達 4180 億美元,顯示已非單純增加 DRAM 產能可解,而是涉及設計、先進封裝、材料及系統集成的深層挑戰。

為攻克物理極限,大摩整理出以下三大創新方向:

向 3D 要空間:3D DRAM 垂直堆疊突破平面微縮極限;HBM 透過 3D 計算 - 記憶體堆疊縮短距離,三星下一代架構正朝此邁進。

架構開掛:SanDisk 提出 HBF,利用 3D NAND 與 TSV 互聯提供 8-16 倍於 HBM 容量,犧牲微秒級延遲換取海量推理緩存;MRDIMM 則透過多路復用控制器實現雙通道並行,倍增帶寬。

存算合一:PIM(存內處理)/CIM(計算內存) 將計算單元植入記憶體晶片,減少數據搬運能耗與延遲,被視為顛覆馮 · 諾依曼架構的終極解法。

大摩認為,這場「記憶體革命」將重構供應鏈價值。三星、SK 海力士、美光憑藉 HBM 與先進製程維持定價權;SanDisk 藉 HBF 切入新生態;瀾起科技(接口晶片)、華邦電、兆易創新 (先進封裝與 3D 堆疊) 等「賦能者」迎來確定性增長。

大摩在報告中預估,不含 HBM 的新型記憶體技術市場規模 2030 年將達 230 億美元,去年僅 12 億,若計入 HBM 整體市場可達 2760 億美元。

大摩在報告中也提醒,算法壓縮如 DeepSeek、AI 商業化不及預期及量產良率仍是變數,但結論明確:AI 投資第一階段 (GPU 擴張) 已近尾聲,第二階段由系統效率驅動的記憶體超級周期正開啟,誰能高效存儲、移動與訪問數據,誰就掌握下一輪 AI 競賽制高點。


相關貼文

prev icon
next icon