為何輝達和超微都在搶HBM？
HBM 解決傳統 DRAM 記憶體限制訊息流通的問題，透過同一封裝內晶片的矽中介質和 SoC 集成在一起，克服數據 I/O 封裝管腳限制的最大數量，突破 DDR 寬帶限制的問題，讓 AI 離不開 HBM。SK 海力士目前市占率超過五成，有主宰 HBM 價格的能力。
【文／魏聖峰】
過去記憶體常常擺脫不了景氣循環的宿命，隨著科技進入ＡＩ世代，伴隨著對高頻寬記憶體（ＨＢＭ）的需求，讓記憶體有新的轉機。Nvidia 執行長黃仁勳曾經表示，若ＧＰＵ要順利推動 ChatGTP 等最先進生成式ＡＩ，要最大限度地發揮ＧＰＵ性能，必須有ＨＢＭ。今年 Nvidia 搭配ＡＩ處理器平台的ＨＢＭ的主流規格是 HBM3 和 HBM3e，下一世代ＧＰＵ平台 Rubin（二○二六年推出）就要採用 HBM4，屆時誰能搶到較多的市占率，將有機會主宰 HBM 領導角色。
ＨＢＭ產能供不應求
黃仁勳對ＨＢＭ曾經有過這樣的評論，就是買越多、省越多！難道ＨＢＭ價格是比傳統記憶體 DRAM 便宜嗎？當然不是這樣！ＨＢＭ作為先進的記憶體，它的技術比傳統 DRAM 技術困難很多，由於廠商目前在ＨＢＭ的良率還不是很高（僅約五○∼六○％），工序複雜，價格當然不會便宜。在ＧＰＵ跨入ＡＩ世代時，只有 DDR5/HBM 才有辦法在ＡＩ高倍速（ＨＣＰ）的環境下運作，其他規格的記憶體都不行，加上全世界只有ＳＫ海力士、美光科技和三星電子等的記憶體大廠製程有能力做出ＨＢＭ，以至於產能有限，市場供不應求，ＨＢＭ目前是賣方喊價的市場。
隨著市場對ＨＢＭ需求越來越大，ＳＫ海力士、美光科技和三星電子等三大記憶體製造商未來的資本支出會大幅用來生產ＨＢＭ，並且會逐步把之前生產較低階 DRAM 生產線，逐步改為ＨＢＭ生產線。根據集邦科技的統計，去年底ＨＢＭ占整體 DRAM 產能約八％，市場規模四三．五六億美元、年成長率達一一○％。預估到今年底，ＨＢＭ在 DRAM 的比重將有機會達到二○％、一六九．一億美元的產值。ＨＢＭ的生產週期比 DDR5 更長，從投片到產出與封裝完成需要兩個季度以上，生產周期（包含ＴＳＶ）會比 DD5 多出一．五∼二個月以上不等，對ＨＢＭ買家來說，都要及早規劃預定，否則有錢也買不到。目前這三大廠針對今年的產能都已經預訂一空，ＳＫ海力士日前宣布明年的產能都被預訂一空，美光科技明年的產能也差不多被訂完。
不過，最近傳出三星電子沒有通過 Nvidia 的認證，主要是因為過熱和功耗有問題。據了解，從去年起三星電子一直嘗試通過 Nvidia 的第四代 HBM3 和第五代 HBM3e 的認證，但到日前為止，三星電子八層與十二層堆疊的 HBM3 與 HBM3e 都未通過認證。三星電子沒通過 Nvidia 就無法打入 Nvidia 的供應鏈，目前也只能供應超微和其他ＣＳＰ客戶，這會讓三星電子在未來的ＨＢＭ市場被弱化，畢竟打不進 Nvidia 供應鏈就等於沒打進主流市場。這個情況，可能會讓ＳＫ海力士會在ＨＢＭ的主宰力更大，價格會更硬，這也是 Nvidia 和超微不樂見的現象。去年底ＨＢＭ市占率中，ＳＫ海力士擁有高達五成的市占率、三星電子約四成、美光科技僅一成。美光科技最大的問題就是產能不足，未來要觀察美光科技在一β製程已經開出來後，能否提高ＨＢＭ產能，來搶占三星電子空出來的市占率。
黃仁勳四日在 COMPUTEX 會場中表示，ＳＫ海力士和美光科技已是 Nvidia 的ＨＢＭ供應鏈，而三星電子還在努力中。言下之意，Nvidia 仍期待三星電子能通過認證，成為ＨＢＭ供應鏈的一環。
解決傳統 DRAM 許多問題
ＨＣＰ是進入ＡＩ領域的必經過程，且在短期間內要處理最多的大數據資料。ＨＢＭ會成為ＡＩ的必需品，在技術上ＨＢＭ解決了傳統 DRAM 遇到的內存高牆（Memory Wall）問題，這問題限制數據無法流通，是傳統 DRAM 無法用在ＡＩ用途的原因。ＨＢＭ利用獨特的矽穿孔（ＴＳＶ）技術，讓訊息透過矽中介層能緊湊地讓數據連結ＧＰＵ。如此能節省數據傳輸的時間延遲與耗能問題。ＨＢＭ是以數個 DDR 堆疊方式形成，從四層、八層到十二層不等，形成大容量和高寬帶的 DDR 組合陣列。採用堆疊方式最高能節省九四％的晶片面積，ＨＢＭ透過同一封裝內的矽中介層與 SoC 集成在一起，能夠克服數據 I/O 封裝管腳限制的最大數量，進而突破內存寬帶的限制。綜合來看，高寬帶、低延遲、低功耗以及高效傳輸等特性，讓ＨＢＭ成為ＡＩ運作過中記憶體的首選。
隨著ＡＩ算力提升，對周邊設備規格的要求也越來越嚴謹。根據 Nvidia 官網顯示，以 A100 當時搭配 HBM2e 的效能為基礎，二三年的 H100 搭配 HBM3 時，運作效能比 A100 提高十一倍，而 H200 搭配 HBM3e 的運作效能更比 A100 提高十八倍，即將在今年下半年推出的 B100 搭配 HBM3e 的效能，又比 H200 的效能至少再高出一倍。（全文未完）
來源：《先探投資週刊》2303 期
更多精彩內容請至 《先探投資週刊》