〈輝達GTC〉Vera Rubin全面進入量產 黃仁勳大讚台灣150家供應商

Vera Rubin全面進入量產 黃仁勳大讚台灣150家供應商。(鉅亨網記者魏志豪攝)
Vera Rubin全面進入量產 黃仁勳大讚台灣150家供應商。(鉅亨網記者魏志豪攝)

輝達 (NVDA-US) 執行長黃仁勳今 (1) 日宣布,Vera Rubin 平台已全面進入量產階段,目前所有供應鏈夥伴都在加速生產,尤其特別感謝台灣的 150 家供應商的貢獻,可望滿足全球對代理式 AI 的需求。 

Vera Rubin 是輝達迄今為止規模最大的 POD 級平台,由五個專用機櫃組成一個龐大的 AI 超級電腦,以支援代理型 AI 工作負載。該平台將 NVIDIA Vera Rubin NVL72 系統、NVIDIA Vera CPU、NVIDIA Groq 3 LPX、NVIDIA Vera BlueField-4 STX 儲存和 NVIDIA Spectrum-6 SPX 乙太網路機架整合到一個完全整合的系統中。相較於前一代 NVIDIA Grace Blackwell 平台,Vera Rubin 在大規模部署下可提供高達 10 倍的代理資料輸送量。 

黃仁勳表示,代理式 AI 是一種全新的工作負載。一個提示即可啟動包含推理、資訊檢索、工具調用,以及回應生成等長達數千步驟的運算流程。Vera Rubin 正是為此而生,它是一個 AI 工廠引擎,能夠大規模地提供智慧,並具備推動下一輪產業革命所需的效能、效率和安全性。 

Vera Rubin 是 NVIDIA MGX 機架級系統的第三代產品。透過經驗證且開源的 MGX 架構設計,NVIDIA 供應鏈生態系中的數百家合作夥伴正加速推動 Vera Rubin 的量產,涵蓋全球 30 個國家、350 多座工廠,其中僅台灣就有超過 150 家合作夥伴參與。 

相關系統製造商、基礎設施軟體與儲存解決方案合作夥伴包括戴爾 (DELL-US)、慧與科技 (HPE-US)、聯想集團和美超微 (SMCI-US),以及營邦 (3693-TW)、Aivres、永擎 (7711-TW)、華碩 (2357-TW)、Cloudian、仁寶 (2324-TW)、DDN、Everpure、鴻海 (2317-TW)、技嘉 (2376-TW)、Hitachi Vantara、Hyve Solutions、IBM、英業達 (2356-TW)、MinIO、神達 (3706-TW) 旗下神雲、微星 (2377-TW)、NetApp、Nutanix、和碩 (4938-TW)、雲達科技、VAST Data、WEKA、緯創 (3231-TW) 和緯穎 (6669-TW)。 

為了支援 AI 工廠的橫向擴展和跨域部署,Vera Rubin 平台導入 NVIDIA Spectrum-X™乙太網路光子技術,這是全球首個採用共同封裝光學技術、並搭載 200Gb/s SerDes 的交換器,目前已進入量產階段。 

Spectrum-X 乙太網路光子技術是基於 CPO 的新一代交換技術,與使用傳統收發器的網路相比,其能源效率提升 5 倍,AI 正常運作時間延長 5 倍,部署速度提升 1.3 倍。 

透過簡化設計並釋放更多運算能力,輝達共同封裝光學網路為百萬 GPU AI 工廠提供基礎架構,其中 CoreWeave、Lambda 和 Oracle Cloud Infrastructure 是首批生態系合作夥伴和採用者。

NVIDIA Vera Rubin 平台還整合了 NVIDIA BlueField-4 DPU,支援高達 800Gb/s 的軟體定義網路和內建的多租戶隔離。透過 NVIDIA BlueField-4 進階安全可信任資源架構,客戶可以簡化網路運作,增強租戶隔離,並更好地控制百萬 GPU AI 叢集。 

輝達指出,AI 工廠正日益在代理型工作流程中處理專有資料、受監管內容及任務關鍵模型。這需要針對共享或雲端環境中自主代理客製化進階基礎設施安全方案,因為在這些環境中,基礎設施無法完全信任。 

Vera Rubin 平台採用全端 NVIDIA 機密運算技術,可在機架級規模提供可信任執行環境。Vera Rubin NVL72 將 Vera CPU、Rubin GPU、NVIDIA NVLink™ 網路和安全功能整合到一個統一的平台中,並透過高速互連加密資料。這提供了硬體級的驗證機制,確保系統具備防竄改能力。 

雲端供應商 CoreWeave、Firmus、GMI Cloud、IBM Cloud、IREN、Lambda、Microsoft Azure、Nebius、Nscale、SpaceXAI 和 Vultr 正在採用 NVIDIA 機密運算。 

在 POD 規模上實現這種程度的安全防護,還需要可程式化的軟體層,能夠在整個系統中強制執行、協調和調整安全策略。NVIDIA DOCA 軟體平台可在 AI 工廠的每個 Vera Rubin 平台機櫃和每一層提供進階安全防護,透過直接在 BlueField-4 晶片中強制執行的功能,保護資料、代理、情境記憶和 AI 推論。 

DOCA 支援多租用戶網路隔離、零信任策略強制執行、執行時間威脅偵測和端對端加密,速度高達 800Gb/s,所有這些都不會佔用主機 CPU 資源,因此企業可以充滿信心地擴展 AI 工廠。

輝達為加速 AI 工廠的建置,也特別推出 NVIDIA DSX 平台,其主要為 Vera Rubin AI 工廠提供完整的設計與營運基礎,整合參考設計、模擬、基礎設施軟體、機房設施及生態系技術,協助建置和營運具能源效率的 AI 工廠,並最佳化以達到最低詞元成本。 

NVIDIA DSX 專為 Vera Rubin POD 架構打造,其整合從晶片和系統到生命週期管理和多租戶運作的每一層,顯著加快了部署速度,並為大規模營運的可靠性和彈性樹立了新的標竿。 

此外,戴爾科技集團、慧與科技、聯想集團和美超微,以及華碩、鴻海科技集團、技嘉科技、和碩聯合科技、雲達科技、緯創和緯穎正採用 NVIDIA DSX,透過 Vera Rubin 加速 AI 工廠的量產進程。 


延伸閱讀

相關貼文

prev icon
next icon