AI記憶體荒將持續數年!摩根士丹利:三大路線可破局 青睞輝達、美光等6檔個股

根據摩根士丹利(下稱大摩)最新半導體研報,DRAM與HBM短缺並非短期擾動,而是AI算力擴張速度快於記憶體供給的結構性矛盾。先進大模型規模約每6個月倍增,主要模型上下文窗口年增5至6倍,推理並發與KV快取需求同步爆發,但DRAM新廠建置需時數年,供給彈性低,短缺可延續數年。

大摩指出,為避免新晶圓廠未就緒就卡住出貨,產業改以架構創新繞過瓶頸。一是硬體降規:以大摩引述的輝達Vera Rubin機架為例,單機架LPDDR5由54TB降至28TB、單GPU HBM由288GB降至192GB,優先保整機出貨;HBM削減後,部分KV資料下沉NAND,跨GPU調度增加,反帶動互聯頻寬需求。

根據大摩分析,降配是把瓶頸在記憶體層級間轉移,而非需求轉弱。摩根大通近期亦指出,Rubin、SOCAMM等規格下修多屬供給約束下的配置優化。

二是推理解耦。預填充(Prefill)吃算力、解碼(Decode)吃記憶體頻寬,傳統同顆加速器兼顧利用率偏低;行業改將兩階段拆開,Prefill用通用GPU,Decode用大容量片上SRAM專用晶片。大摩點名Cerebras晶圓級引擎、輝達透過Groq LPU佈局的解碼加速方案,認為異構推理會成AI基建重要方向。

三是CXL記憶體池化。CXL以高速互聯實現記憶體擴展、共享與池化,高頻資料留HBM、次高頻進CXL池、冷資料落NAND,用成本梯度配訪問頻率。

大摩預估,AI需求可推CXL及相關記憶體附加晶片市場規模在2030年有望達約60億美元;Astera Labs的Leo控制器已進微軟Azure預覽,邁威爾科技則以Structera鎖定CPU側擴容與KV暫存,但CXL定位為HBM補充而非替代。

投資主線上,大摩重申加碼美光、閃迪,理由為降配源於供給稀缺、長期AI記憶體需求向上;同時看CXL與scale-up互聯的Astera Labs、Marvell,以及異構推理受惠的Cerebras、透過Groq完善解碼佈局的輝達。

大摩也點名風險在於AI資本開支走緩、CXL落地慢於預期,或是DRAM產能擴張超預期,造成短缺溢價提早收斂。