〈輝達GTC大會〉GB200整機架構優化 鴻海擁垂直整合能力成首要受惠者

輝達 (NVIDIA) 在本次 GTC 大會上，正式發表新一代人工智慧晶片 Blackwell GPU，型號分為 B200，以及由 2 片 B200 與 1 顆 Grace CPU 組合而成的 GB200。法人表示，目前 GB200 機櫃訂單目前由鴻海 (2317-TW)、廣達 (2382-TW) 瓜分，其中，鴻海得益於掌握垂直整合能力、與客戶密切合作，更是主要受惠者。

法人指出，GB200 是整套的解決方案，主要優化的部分在於其強大性能和 Rack 的設計，鴻海具備從零組件、模組、整機到資料中心的垂直整合能力，能配合客戶進行開發，整櫃輸出的技術力，將成為集團在 AI 伺服器產業的重要優勢。

據了解，舊式 AI 伺服器架構（A100、H100、B100），是由 8 顆 GPU 組成一個板子，搭配 CPU；GB200 在於其 CPU 是用 NVIDIA 自己的 Grace CPU，且一個 Tray 可以搭配 2 顆 CPU+4 顆 GPU。

Rack 方面，舊式 AI 伺服器一組 Rack 裝滿可以裝 2 台伺服器；GB200 可裝載 18 台 1u 的伺服器，簡單來說，舊式 AI 伺服器，高 u 數、少台數；GB200 低 u 數、多台數，價值更高，且 GB200 對基板需求降低，但產品在通訊速度與冷卻的要求更高。

而鴻海在近期法說會上就強調，液冷散熱技術 5 年前就開始在做，集團在這方面可以提供的價值包括更佳的運算效能、機櫃整體空間設計上的優化、節能表現優於業界、散熱解決方案也可以降低客戶的營運成本、及機台運作更安靜等。

此外，GB200 在基於 1750 億組參數 GPT-3 模型的基準測試中，其性能是 H100 的 7 倍、訓練速度則提高了 4 倍，提升 GPU 效能的目標下，GPU 之間的串聯相當關鍵，所以高速交換機的功能將會凸顯，鴻海集團也是交換機的重要供應商。