仁寶參與英特爾Data Center&AI 亮相最新伺服器產品

仁寶 (2324-TW) 今 (3) 日指出,參與英特爾 (INTC-US)Data Center&AI,展示最新伺服器產品,包括 SR230-2 和 SD230-8,可滿足數據中心需求,提供卓越效能、可擴展性及可維護性,為高效能運算(HPC) 及 AI 工作負載提供強而有力的支持。 

仁寶表示,AI 應用與日俱增,使用 GPU 訓練大型語言模型 (LLM) 時,可擴展性及大量能耗成為一大瓶頸。相比之下,CPU 以其高效能與能效,成為較小語言模型 (SMLs) 及數據準備、數據傳輸至 GPU 進行並行處理, 

仁寶的 SR230-2 和 SD230-8 搭載英特爾 Xeon 6 處理器,擁有高效能核心 (E-cores) 和性能核心 (P-cores) 的雙重架構設計。E-cores 提供卓越的每瓦性能,P-cores 則針對 AI 及 HPC 等工作負載提供極致性能。 

SR230-2 配備最多 128 顆處理器核心,提供最多 5 倍的 AI 推理性能,且搭載高渦輪頻率,加速模型訓練的時間,且透過最高 504MB 的 L3 快取,以確保低延遲並能快速存取資料庫。 

SD230-8 則可提供最多 2 倍的 HPC 性能,並採用 MRDIMM 技術,推升 AI 推理性能最多達 5.5 倍。此外,還搭載英特爾先進矩陣擴展技術 (AMX),可提升深度學習、訓練及推理性能,其中,在自然語言處理 (NLP)、推件系統與圖像識別等應用中表現出色。 

仁寶表示,兩款伺服器在 AI 推理、HPC 及能源效能上的亮眼表現,可以推動企業的數字化轉型,進一步提升營運效率、創造更多價值。