邁威爾:光學互連、記憶體成AI下一階段算力擴張關鍵

邁威爾:光學互連、記憶體成AI下一階段算力擴張關鍵(圖:Shutterstock)
邁威爾:光學互連、記憶體成AI下一階段算力擴張關鍵(圖:Shutterstock)

人工智慧(AI)算力競賽正逐漸從晶片效能比拚,擴大至互連、記憶體與網路等整體基礎設施的競爭。邁威爾科技(MRVL-US) 高層近日在Six Five Summit 2026指出,隨著推論模型帶動記憶體需求快速攀升,加上資料中心規模持續擴大,傳統銅基互連逐漸接近效能極限,光學互連與記憶體擴充技術將成為下一階段AI算力擴張的重要因素。

邁威爾客製化雲端解決方案業務執行副總裁Will Chu表示,市場長期將注意力集中在XPU本身,但XPU周邊的「附著層」同樣關鍵,涵蓋網路、記憶體、儲存及安全等領域。

他指出,每顆XPU背後都存在3至4個甚至更多的客製化機會,反映AI基礎設施正全面走向客製化。

邁威爾資料中心網路業務集團執行副總裁Dave Lazovsky則表示,推論時運算(inference time compute)興起,使KV快取需求在過去9個月增加約10倍,單一機架已難以提供足夠記憶體容量,規模化部署因此必須擴展至更大的互連範圍。

AI基礎設施需求持續擴張,也將帶動相關供應鏈迎來長期需求,包括記憶體、光學互連及客製化晶片設計等業者。

分析機構估計,2025年至2030年間,全球資料中心基礎設施累計資本支出規模可能達4兆至5兆美元。

銅連接接近極限 光學互連成擴充關鍵

Lazovsky將AI基礎設施由銅轉向光學互連形容為「強制函數」,而非可選的升級方案。

他指出,早期大型基礎模型已建立龐大的總記憶體需求,隨著推論模型發展及KV快取快速增加,單一機架中的HBM容量已不足以支撐尖端模型運作。

他表示,AI系統必須將互連規模由目前約144個XPU擴大至下一階段約576個XPU的Pod,並持續向更大規模擴展,而這也代表互連技術必須從銅基方案轉向光學方案。

邁威爾目前同步推進板載光學(NPO)及共封裝光學(CPO)兩條技術路線,並已在乙太網路及UAL協議交換器上導入CPO方案。

Chu指出,邁威爾可協助客戶從傳統銅連接方案逐步轉向NPO及CPO,客製化範圍則可從運算單元、I/O介面一路延伸至交換器連接埠。

Lazovsky也強調邁威爾類比SerDes技術的差異化。他表示,相較於傳統2.4T SerDes光學鏈路,採用類比SerDes的Scale Up網路可將功耗降低約4倍,全面部署後預計可使資料中心整體能耗降低逾25%。

AI記憶體需求暴增 CXL、3D堆疊及光子技術成解方

Chu將記憶體瓶頸視為AI基礎設施目前面臨的核心工程挑戰,邁威爾的布局則涵蓋晶片內外不同層級。

在晶片內部,邁威爾正投入專有高密度SRAM IP,透過與運算單元緊密整合提升效能,並支援更大型模型在晶片上的運作。Chu指出,傳統通用記憶體編譯方案已難以滿足客戶需求。

晶片外部則涵蓋多種技術,包括整合客製化HBM以提升頻寬與容量、透過3D堆疊將記憶體直接置於邏輯晶片上,以及利用CXL或專有協議進行記憶體擴充,以容量換取頻寬。

此外,邁威爾也推出光子織物記憶體(Photonic Fabric Memory)設備,可在獨立機架空間內提供32TB外接記憶體池。

Lazovsky指出,該光子織物記憶體系統結合DDR的容量與成本優勢,以及HBM的高頻寬與多偽通道平行特性,目標是讓記憶體容量與頻寬能夠獨立擴充,降低對運算資源的綁定。

Chu另表示,記憶體價格持續高漲,也促使超大規模雲端業者重新檢視整體基礎設施架構。邁威爾的CXL產品已獲得需求,部分客戶希望將舊有記憶體導入新伺服器,並透過記憶體壓縮讓等效容量增加1倍。

此外,部分業者也開始關注Flash層級的記憶體分層方案,作為成本較低的容量補充選項。

規模擴展網路走向客製化 XPU與網路深度整合

Lazovsky指出,目前約4家公司占據資料中心基礎設施整體可服務市場(TAM)75%以上。市場高度集中,也讓邁威爾得以與主要客戶的開發團隊深度合作,提前數年共同規畫下一代交換器架構。

他表示,目前規模擴展網路(Scale Up Network)主要存在3種路線:部分業者採用乙太網路方案;另一條路線採用UAL協議,屬於類似NVLink、基於記憶體語義載入與儲存的高效能網路;另有業者則採用完全自行開發的專有拓撲網路。

Chu指出,XPU與規模擴展網路之間高度緊密的整合,將推動協議層及最佳化策略進一步客製化,最終形成客製化晶片。

他表示,並非所有業者都具備端到端開發能力,而邁威爾除了能提供相關能力,也能作為客戶開發團隊的延伸,直接參與核心基礎設施設計。

Lazovsky則表示,邁威爾與主要超大規模雲端業者及GPU製造商建立的長期合作關係,是公司的重要資產,這類信任需要多年累積。


延伸閱讀

相關貼文

prev icon
next icon