SK海力士(000660KS) 在高頻寬記憶體（HBM）之外再推新技術，於2026年OCP全球高峰會發表MARS記憶體加速架構與高頻寬快閃記憶體（HBF）。
MARS在多輪AI推理測試中，首次回應速度較重新計算方案提升3至5倍；HBF則以約HBM一半的頻寬，提供約14倍容量，預計2028年初推出樣品。
兩項技術分別從資源共享與容量擴充切入，瞄準AI訓練與推理的記憶體瓶頸。在輝達等AI晶片廠商對HBM需求強勁、供應持續吃緊之際，SK海力士希望透過不同架構，改善資料中心的記憶體利用效率與配置彈性。
記憶體不夠用 為何得多買GPU？
SK海力士資深副總裁Hoshik Kim指出，現有以處理器為中心的分散式運算叢集，存在資源失衡與擴充缺乏彈性兩大問題。
一方面，某台伺服器即使有閒置記憶體，也難以方便地分享給其他節點；另一方面，業者若想增加記憶體容量，往往必須購買整台新伺服器，無法單獨依照需求擴充。
這種運算與記憶體資源緊密綁定的模式，容易迫使營運商配置超出實際運算需求的GPU，不僅推高總持有成本（TCO），也使部分資源無法充分利用。隨著AI推理服務擴大，如何讓既有記憶體更有效率地支援不同工作負載，成為資料中心需要處理的問題。
MARS打造共享記憶體池 首次回應加快
MARS全名為Memory-Centric AI Rack-Scale System，核心概念是將記憶體與傳統CPU、GPU伺服器解耦，建立專用的大規模共享記憶體池，讓資源配置不再侷限於單一伺服器。
這項架構進一步把記憶體托盤層級的資源池擴展至整個機架，使運算與記憶體能以共享基礎設施的方式協同運作。衡量資源效率的範圍，也從單台伺服器還有多少可用記憶體，轉向整個資源池能否有效分配容量。
Kim以多輪AI代理推理服務為例說明，隨著對話持續進行，KV快取會快速膨脹。MARS可將這些快取放在共享記憶體系統中，避免持續占用GPU端的記憶體與儲存資源。
根據TrendForce現場報導，Kim引用測試數據指出，相較於重新計算方案，MARS可使首次Token回應時間（TTFT）所反映的回應速度提升3至5倍，尾端延遲也明顯改善。
這項數據針對的是多輪推理場景的首次回應表現。TTFT攸關使用者送出請求後，需要等多久才開始收到回應；尾端延遲則涉及回應較慢的請求，其改善有助於提升大量請求同時進入時的服務穩定性。
對AI推理服務商而言，MARS的效益除了縮短等待時間，也在於提高記憶體利用率，減少為了擴充記憶體而額外配置GPU的需求。
HBF容量達14倍 補足HBM容量限制
另一項技術HBF，則從記憶體容量著手。Kim表示，HBF的頻寬約為HBM的一半，容量卻可達HBM的14倍，目標是把高頻寬儲存能力延伸至機架規模的容量配置。
HBF的取捨相當明確，即以較低頻寬換取更大的容量空間，讓系統能建立更具彈性的儲存層級。對需要承載大量模型參數與上下文的大型模型推理而言，容量不足同樣可能限制系統效能，HBF因此提供了另一種配置選擇。
不過，容量優勢並不代表HBF可以全面取代HBM。由於頻寬約為HBM的一半，HBF更適合在分層儲存架構中扮演容量補充的角色，協助緩解大型模型部署時的容量壓力。
2028年初提供樣品 規範持續推進
依照SK海力士公布的技術時程，公司已於今年7月發布OCP HBF規範0.7版，預計明年初推出1.0版，HBF Cube樣品則規劃於2028年初提供。
這代表HBF仍須經過規範完善與樣品開發等階段。2028年初的目標是提供樣品，尚不能直接視為大規模商業化部署的時間點。
從兩項技術的定位來看，MARS著重於系統架構，透過共享記憶體池改善資源配置；HBF則著重於儲存層級，以更大容量補充HBM。
兩者都指向同一個問題：AI基礎設施的效能與成本，除了取決於GPU，也受到記憶體容量、頻寬及利用效率影響。
在HBM供應壓力持續之際，SK海力士此次發布MARS與HBF，也向雲端業者及AI基礎設施營運商揭示了HBM之外的技術布局。
隨著HBF規範與樣品開發推進，新型記憶體架構將成為記憶體產業競爭的另一個焦點。
