輝達最新升級版AI晶片將上市 廣達旗下入列首批協力商

輝達 (NVDA-US) 最新升級版 AI 晶片 H200 即將問世,代工大廠廣達 (2382-TW) 旗下雲達 (QCT) 昨 (21) 日證實,成為首批支援製造搭載 H200 GPU 伺服器的協力商。 

根據輝達公布的時程,H200 伺服器將於 2024 年第二季開始出貨,可以提供生成式 AI 以及高效能運算 (HPC) 所需的大量負載能力並提升效率。H200 的競爭對手則是超微 (AMD-US) 的 MI3000X GPU,可以協助大型 AI 模型執行推論。 

據外媒指出,H200 晶片沿用輝達 Hopper 架構,與 H100 並無太大差異,因此現在使用 H100 訓練大型語言模型的公司,可以不需更換伺服器就能無縫接軌。 

H200 最主要的優勢在於其強大的記憶體,H200 搭載 HBM3e 記憶體,容量達 141GB,較 H100 的 80GB 高出不少。使用晶片的記憶體愈大,大型語言模型就可以一次處理愈多的資訊,H200 的輸出速度甚幾乎是 H100 的兩倍。 

輝達透露,包含亞馬遜 (AMZN-TW) 的 AWS、Alphabet(GOOGL-US) 的 Google Cloud 以及甲骨文 (ORCL-US) 的雲端基礎設施,明年都開始使用 H200 最新晶片。 

隨著 H200 即將推出,廣達集團旗下雲達成為首批協力商,將可以優先拿到最新晶片。也就是說包含雲達在內的台廠,未來只要替客戶系統更新,就能有 H200 高效能的處理能力,提升生成式 AI 及高效能運算的速度。 

廣達集團近期 AI 業務熱,也傳出大手筆回饋員工。除全員加薪 3000 元,更加碼公布彈性上下班制度。 

根據證交所資料公布,去年電子五哥非主管職員工年薪排行榜,廣達以 150.1 萬元位居第一名。仁寶 (2324-TW) 則為 135.2 萬,位居第二名。第三名緯創 (3231-TW) 為 131.8 萬元,第四名則是和碩 (4938-TW) 為 129.9 萬元,第五名英業達 (2356-TW) 為 102.4 萬。