OpenAI、台積電、特斯拉都在布局!晶圓級晶片成AI算力競賽新戰場

OpenAI、台積電、特斯拉都在布局!晶圓級晶片成AI算力競賽新戰場。(圖:Shutterstock)
OpenAI、台積電、特斯拉都在布局!晶圓級晶片成AI算力競賽新戰場。(圖:Shutterstock)

AI 的下一場競爭,不再只是誰的 GPU 最快,而是誰能用新的晶片架構,降低資料搬運成本,提供更高效率、更低功耗的算力,把戰線從「晶片有多快」推向「晶片有多大」。

隨著 OpenAI 與新創公司 Cerebras (CBRS-US) 簽下一紙金額上看 200 億美元的算力採購合約,加上特斯拉 (TSLA-US) 、台積電 (2330-TW) 與多家中國研究機構相繼公佈進展,曾經被視為工程奇想的「晶圓級晶片」,如今正快速轉為一門可交付、可量產的產業生意。

今年稍早,OpenAI 與美國晶片新創 Cerebras 簽署了一份為期三年的算力採購協議,涵蓋規模最高達 750MW 的運算容量,交付期程排到 2028 年,市場估算合約總值可能超過 200 億美元。

這筆訂單的意義不只在於金額龐大,更在於它把「晶圓級晶片」從一項製造技術,正式推上算力產業版圖的檯面。

Cerebras 的核心產品,是一種顛覆傳統封裝邏輯的「整片晶圓」晶片:不同於一般晶片製造流程中把晶圓切割成上百顆獨立裸片,Cerebras 選擇讓整片晶圓維持完整、彼此互連,形成單一巨型邏輯系統。

今年稍早公司在美股掛牌後,首季財報顯示營收達 1.93 億美元,年增 94%,其中雲端服務營收更是年增 178%。

值得注意的是,押注晶圓尺度的不只 Cerebras 一家。特斯拉重啟了自家的 Dojo 3 訓練晶片計畫;在中國多所高校、科研院所與企業也陸續發表 12 吋晶圓級驗證樣機、多芯粒原型與產品路線圖。

晶圓級運算,正從少數玩家的豪賭,演變為整個產業認真評估的選項。

瓶頸不在算力,而在「搬運」

要理解晶圓級晶片為何興起,得先回到當前 AI 系統真正的痛點。它已經不單純是運算能力不足的問題,而是資料搬運的成本失控。

大型模型運作時,龐大的權重與中間運算結果必須不斷在運算單元與儲存單元之間往返,一旦系統涉及多顆晶片協同工作,這些資料還得跨晶片交換、同步。

而只要資料離開晶片本體,就得經過封裝的輸入輸出介面、電路板、網路卡、交換晶片,乃至光模組層層轉手。

叢集規模愈大,花費在通訊上的電力與成本占比就愈高,新增的運算單元也愈難轉化為等比例的實際算力產出。

面對這個問題,產業目前分成兩條路線因應。

第一條路是把「機架」做得更像一台電腦。輝達 (NVDA-US) 的 GB200 NVL72 透過 NVLink 把 72 顆 GPU 整合為單一液冷機架系統;華為的 CloudMatrix 384 則以 384 顆昇騰 910C 晶片搭配高速互連,組成所謂的超節點。

這條路線靠的是更強大的交換晶片、銅纜或光纖連接與系統軟體,讓大量獨立晶片協同運作時盡量減少延遲。

第二條路,則是晶圓級運算選擇的方向。直接縮短資料傳輸的物理距離。把原本發生在電路板之間、機櫃之間的資料交換,直接壓縮進封裝內部甚至同一片晶圓內部,用毫米級的互連取代原本動輒公分甚至公尺級的網路傳輸。

這條路線的核心價值,不是塞進更多運算單元,而是從根本上減少資料搬運的距離與代價。

分析指出,兩條路線各有取捨。超節點的軟體生態成熟、擴容與更換硬體相對容易,但必須承擔較高的網路成本;晶圓級系統則用高度客製化的製造、供電、散熱與軟體投入,換取更高頻寬、更低延遲與更佳能效表現。

值得一提的是,今年 7 月,超微半導體 (AMD-US) 與 Cerebras 公布了一項「分離式推理」合作方案。由超微半導體的 Helios 系統負責運算密集的預填充階段,Cerebras 的晶圓級引擎則專注處理對延遲敏感的解碼階段。

雙方測算,這種混合搭配相較單獨使用晶圓級引擎,每瓦產出的 token 數最高可提升五倍,代表晶圓級晶片未必要取代 GPU,更可能的走向,是成為異質化資料中心裡專門承接通訊密集、延遲敏感任務的一層架構。

一整片晶圓,還是重新拼裝的晶粒?

嚴格來說,產業裡通稱的「晶圓級晶片」其實包含兩種截然不同的技術路徑。

傳統大型晶片的第一道天花板,來自先進微影技術單次曝光所能覆蓋的面積上限,業界稱之為「掩模尺寸極限」,大約落在 800 多平方毫米。以輝達 H100 為例,其裸片面積約 814 平方毫米,已經逼近這個物理邊界。

過去產業靠製程微縮持續塞入更多電晶體,但隨著先進製程的研發與製造成本不斷攀升,業界開始改用 Chiplet 拆分複雜晶片、再透過先進封裝重新組裝。而晶圓級運算,則是把整個系統的邊界,從一個封裝直接擴展到接近整片晶圓的規模。

第一類:整片晶圓,單一邏輯系統。 這正是 Cerebras 晶圓級引擎所採用的方式,也是目前唯一真正形成商業交付規模的產品類型。

晶圓製造完成後不再切割成獨立裸片,而是透過跨曝光區域的互連技術,把整片晶圓組織成一個連續運作的邏輯系統。

Cerebras 的邏輯是,先把良率問題解決,再去掌控整套系統。最新一代的 WSE-3 採用 5 奈米製程,面積達 46,225 平方毫米,整合 4 兆顆電晶體、90 萬個 AI 運算核心,峰值算力達 125 PFLOPS。換算下來,其面積相當於數十個標準光罩區域的總和。

這種高度一體化的做法,也代表 Cerebras 必須親自掌控更多產業環節。晶圓級引擎沒辦法像一般 PCIe 加速卡那樣直接插進伺服器裡使用,公司得同時包辦晶圓級封裝、供電系統、液冷方案、整機設計、編譯器與叢集軟體的開發。

換句話說,Cerebras 賣的其實不是一顆標準晶片,而是一整套從矽晶圓延伸到雲端服務的完整運算系統。

第二類:先拆後拼的多晶粒晶圓級系統。 這類方案採取相反的邏輯,先各自製造、切割並測試獨立晶粒,再挑選其中的良品,重新整合到晶圓尺度的互連平台上。

特斯拉的 Dojo 計畫是最具代表性的案例。特斯拉負責 D1 晶片本體、訓練架構與軟體,台積電則透過 InFO_SoW 晶圓級扇出封裝技術,把 25 顆 D1 晶片組裝成一片「訓練磚」。

相較於 Cerebras 的做法,這條路線不需要讓帶有缺陷的整片邏輯晶圓繼續運作,晶片製造完成後可以個別測試、只挑選良品進行整合,大幅降低前段製造的良率風險,也更容易混搭不同製程、不同功能的晶粒。

在 Dojo 之後,台積電已經著手把晶圓級整合技術,從單一客戶的專案,擴展為對外開放的通用代工平台。

根據台積電公布的技術路線圖,下一代 SoW-X 平台計畫進一步整合邏輯晶粒、HBM 高頻寬記憶體與輸入輸出模組,目標在 2027 年進入量產階段。

台積電強調,SoW-X 並非 Dojo 的直接後繼產品,而是面向更廣泛高效能運算與 ASIC 客戶群的下一代晶圓級平台。

此外,還有一組容易與晶圓級運算混淆的技術,包括晶圓級封裝、混合鍵合與 3D 堆疊。這些製程雖然都在晶圓階段完成重佈線、封裝或垂直連接工序,但最終產出的產品仍可能只是一顆尺寸正常的封裝晶片。

它們是支撐晶圓級運算的重要技術基礎,卻不能與真正的晶圓級運算系統畫上等號。

中國隊伍:從論文走向樣機

過去兩年,中國在晶圓級運算領域的進展相當顯著,雖然目前還沒有出現成熟度足以比肩 Cerebras 的商業化系統,但已經明顯跳脫純概念研究的階段。

在學術端,清華大學尹首一、胡楊團隊於 2025 年一口氣有三項晶圓級運算研究成果登上國際頂尖電腦架構會議 ISCA,研究範疇分別涵蓋全晶圓計算拓撲、整合架構,以及大模型推理在晶圓級硬體上的映射方法。

三者恰好對應一台晶圓級電腦的三個層次:底層如何連接晶粒、中層如何組織運算與儲存、上層如何把大模型有效映射到硬體資源。

根據論文披露的實驗數據,團隊提出的拓撲方案相較 Dojo 架構可實現 2.39 倍的吞吐量提升;整合架構方面,在相同成本模型下分別達成 2.90 倍算力、2.11 倍通訊頻寬與 11.23 倍記憶體頻寬的提升;而其大模型映射方案 (WSC-LLM),相較論文所選定的 GPU 叢集,平均效能提升達 3.12 倍。

同時,該團隊也與清微智能合作,成功研製出 12 吋晶圓級 AI 晶片驗證樣機,實現所謂「一片晶圓即一顆晶片」的目標。

另一項值得留意的成果,來自中國科學院計算技術研究所主導、聯合中國電子科技集團第五十八研究所與無錫芯光互連技術研究院共同完成的「映天湖」計畫。

該計畫採用「計算模組—互連基板」解耦架構,嘗試在同一個平台上相容 CPU、AI 加速器、DSP、交換晶片與儲存等不同種類的晶粒。

論文披露,團隊已完成由 16 個計算模組構成的原型系統,相關晶片採用台積電 28 奈米製程流片,單一晶圓即可達到千萬億次等級的運算能力。在論文設定的實驗情境中,高效能線性代數運算與深度學習推理任務的相關指標,分別改善約 1.45 倍與 1.78 倍。

同樣來自中國科學院計算技術研究所的研究團隊,今年還提出了名為 Ouroboros 的架構,即一種以晶圓級 SRAM 為核心的「存算一體」設計。

團隊在一片 12 吋晶圓上整合了高達 54GB 的 SRAM 容量,足以讓主流的 7B、13B 甚至更大規模模型的參數、中間運算值與 KV 快取,完整常駐在最靠近運算單元的第一級儲存空間裡。

實驗顯示,該架構平均吞吐量可達現有頂尖系統的 4.1 倍,平均能效提升 4.2 倍;在 13B 參數規模的模型上表現尤其突出,吞吐量最高達 9.1 倍,能效比甚至提升到 17 倍。

團隊採用單一晶圓對 Llama 13B 模型進行推理,在 WikiText-2 資料集上測試時,系統吞吐量可穩定達到每秒 15 萬個 token。

企業端同樣傳出產品化訊號。今年 5 月,新紫光集團發表名為「紫弦」的 3D 化近存計算架構,採用 3D DRAM 與該公司稱為業界首創的 3.5D 異質異構整合路線,透過先進封裝將儲存單元與運算單元進行三維堆疊,大幅縮短資料傳輸距離。

根據新紫光公布的數據,其儲存頻寬可達 30TB/s,優於目前業界最新的 HBM4 標準;在近存運算模式下,存取延遲最大可降低 18 倍; 模擬結果顯示,在同等算力條件下,其 token 吞吐率較國際旗艦級產品高出 1.5 至 2 倍以上。新紫光集團聯席總裁陳杰表示,「紫弦」架構已將 10 到 20 顆不同種類的裸片整合在單一晶片內,逼近單晶片微縮的物理極限,下一步更深度的整合,勢必要仰賴晶圓級技術才能實現。

中國企業清微智能的可重構運算技術,則已從 1.0、2.0 世代演進到剛發表的 3.0 版本,並規劃下一步邁向面向晶圓級運算的 4.0 世代;產品線也從支援資料流與網格運算的 TX81,發展到支援三維運算的 TX82,並已著手規劃真正的晶圓級晶片產品。

在互連環節,井芯微電子則已推出軟體定義互連晶片與橋接產品,其 SDI3210 最多可支援 32 個端口或 32 路高速通道,PRB0400 這款 PCIe Gen2/RapidIO Gen2 橋接晶片也已進入量產; 2026 年,該公司再進一步發表面向晶上系統的 RDMA 對等通訊 IP 與專用中介軟體。

下一步:比的不再是面積,而是交付能力

整體而言,晶圓級運算已經走過純技術驗證的階段,正式進入產業驗證的關卡。接下來各家角逐的重點,將不再是晶圓面積有多大、整合了多少顆電晶體,而是在真實工作負載下的效能表現、功耗控制、成本結構,以及能否穩定交付。

多數業界觀察都指出,晶圓級晶片短期內不太可能全面取代 GPU 或超節點架構,但很可能率先切入通訊密集型的 AI 推理任務與特定專用運算場景,成為異質化資料中心裡的關鍵一環。

隨著這場競賽逐漸從實驗室走向量產線,晶圓級晶片,正在成為下一輪 AI 算力競爭的關鍵戰場。


延伸閱讀

相關貼文

prev icon
next icon