矽谷去輝達化加速!Anthropic用Claude打通多晶片算力池 CUDA護城河遭遇挑戰

(圖:shutterstock)
(圖:shutterstock)

AI公司Anthropic在IPO路演當中披露一項重磅技術進展,旗下Claude Mythos預覽版模型,僅耗時3天、幾乎無需人工干預,便自主完成絕大部分底層內核代碼編寫,成功將模型遷移至超微最新MI355X加速晶片。過往這項工作往往需要數十名工程師耗時6至12個月才能完成,自動化工具直接將跨平台適配週期壓縮至72小時,這項突破有望動搖輝達依託CUDA構築的長期軟體壁壘。

此次測試細節由Anthropic共同創辦人Tom Brown在面向投資者的IPO路演中公開。晶片運行AI大模型依賴底層內核調度硬體資源,以往工程師需要參照硬體手冊逐行編寫複雜指令,流程繁瑣且極易出錯,而Claude Mythos直接接管整套流程,自主移植、編寫接近100%的內核代碼。

基準測試顯示,遷移後的模型在超微硬體上運行流暢,響應延遲與輝達高度優化的方案差距維持在8%至12%,性能完全滿足商業生產環境標準,並非空驗室階段的試驗成果。技術驗證落地後,雙方商業合作迅速跟進,Anthropic今年首次大規模引入超微顯卡,簽署總規模最高達2GW算力供應協議,海量大模型推理任務將交由超微晶片集群承載。

輝達CUDA生態歷經近20年建設,內置大量極限優化的算子庫,全球數百萬開發者、高校教材、開源項目均圍繞該體系運作,形成極強用戶黏性。企業若想更換競品晶片,必須推翻重寫海量底層代碼,漫長的適配週期讓大多數公司被迫持續採購輝達產品,這便是輝達難以撼動的核心護城河。

面對高昂的硬體遷移成本,大型AI企業早已尋求破局。Anthropic創立初期便制定非常規多晶片路線,拒絕綁定單一硬體平台,模型同時運行於輝達GPU、谷歌TPU、亞馬遜Trainium與超微晶片之上,將各類硬體整合為統一、可互換的算力資源池。

憑藉Claude Mythos這類自動化工具,軟體移植工程量削減約95%,硬體切換門檻大幅降低,採購晶片迴歸單純的成本與供貨對比,顯著提升買方議價能力。

放眼矽谷,去單一化成為科技巨頭共同選擇,谷歌TPU已可原生支援主流PyTorch框架,Meta亦開始在生產環境大規模部署TPU,算力市場正逐步走出一家獨大格局。

不過,業內人士普遍認為CUDA壁壘並未徹底瓦解。本次3天適配僅針對單一模型推理階段的提示詞處理環節,而動用數萬張晶片、持續數月的超大規模分佈式訓練,依舊是輝達NVLink、NCCL集合通信庫的優勢領域;全新架構晶片上市初期,仍需要頂尖人類工程師手工調整。


相關貼文

prev icon
next icon