MosaicML評測:超微AI晶片效能可為輝達的80%

MosaicML評測:超微AI晶片效能可為輝達的80% (圖:REUTERS/TPG)
MosaicML評測:超微AI晶片效能可為輝達的80% (圖:REUTERS/TPG)

生成式人工智慧 (AI) 平台業者 MosaicML 周五 (30 日) 公布一份評測報告,評比超微 (AMD-US) 和輝達 (NVDA-US) 的 AI 晶片,結果顯示,超微產品運作的效能約為輝達的 80%,而且未來有機會平起平坐。

路透報導,輝達的產品是目前生成式 AI 市場的霸主,利多帶動公司市值飛越 1 兆美元,晶片也供不應求,這促使一些科技公司尋找替代品,也讓 MosaicML 決定進行評測。

MosaicML 評比超微 MI250 和輝達 A100,這些晶片是兩家公司的旗艦產品,也都獲得大量市場需求。

根據這項評比,超微晶片的效能約為輝達的 80%,主要受益於超微去年底發布的新版軟體,和新創公司 PyTorch 3 月發表、獲 Meta 支持的新版開源軟體。

Mosaic ML 技術長 & 共同創辦人湯漢林 (Hanlin Tang) 認為,超微正在開發的軟體若發布更新,能讓 MI250 晶片效能更上一層樓並追上輝達的 A100 晶片。

湯漢林說:「對大部分 (機器學習) 晶片公司來說,軟體是他們的阿基里斯腱。超微在軟體方面的表現確實很優秀。」

他表示,MosaicML 利用 PyTorch 及超微軟體訓練大型語言模型 (MML),但不必調整代碼庫。如果開發人員可以用對的價格取得超微的晶片,就可以替代輝達的晶片,因為兩者本質上是可以互換的。

MosaicML 販售的軟體能讓企業更輕鬆用自己資料中心創建 AI 系統,不必付費從 ChatGPT 母公司 OpenAI 使用他們的系統。該公司表示,正在進行一項研究,向客戶說明輝達以外的 AI 晶片還有哪些選擇。

輝達拒絕對此報導置評。MosaicML 表示,這項研究並非由超微付費委託的研究。本周稍早,Databricks 同意支付 13 億美元收購 MosaicML。

超微透過聲明表示,這份研究凸顯超微支持開放和相容軟體生態系的策略,以用於超微硬體的 AI 訓練和推理。超微並表示,未來將和 MosaicML 合作,以調整軟體。


延伸閱讀

相關貼文

prev icon
next icon