報導:輝達H100 AI GPU交貨等待時間已降至2-3個月

據科技網站《tom"shardware》引用 Digitimes 報導稱,戴爾台灣總經理 Terence Liao 表示,Nvidia(NVDA-US) H100 AI GPU 的交貨等待時間 (lead time),在過去幾個月已從之前的 3-4 個月,縮短至僅 2-3 個月 (8-12 周)。 伺服器代工廠也透露,相較於 2023 年幾乎無法買到 H100 的情況,目前供應瓶頸正在逐步緩解。

儘管交貨時間縮短,Liao 表示,對具有人工智慧功能的硬體需求仍然非常高。即使價格昂貴,人工智慧伺服器的採購正在取代企業中通用伺服器的採購。不過,Liao 認為採購時間是造成需求一直偏高的唯一原因。

2-3 個月的交貨等待時間是 Nvidia H100 GPU 的最短交貨時間。 僅在 6 個月之前,交貨等待時間高達 11 個月,這意味著 Nvidia 的大多數客戶必須等待一年才能完成 AI GPU 訂單。

自 2024 年初以來,H100 GPU 交貨等待時間一直在顯著縮短。 今年年初,等待時間就已經從最初的幾個月降至 3-4 個月。 現在又進一步縮短了一個月。 依這樣的速度,到今年底甚至更早,或許就不再需要等待。

造成這種情況,可能是由於一些擁有過剩 H100 GPU 的公司,為了降低閒置庫存的高額維護成本而進行轉售。 此外,亞馬遜雲端科技 (AWS) 也讓透過雲端租用 Nvidia H100 GPU 變得更加容易,這也有助於緩解部分 H100 需求。

目前唯一仍在承受供應限制的輝達客戶是一些大型企業,例如 OpenAI,這類公司正在研發自己的大型語言模式 (LLM)。 訓練大型語言模型需要成千上萬顆 GPU 才能快速且有效率地完成,因此這些公司仍然面臨供應瓶頸的挑戰。