AI太燒錢?輝達投資新創出招 稱幫客戶省67%運算費

AI太燒錢?輝達投資新創出招 稱幫客戶省67%運算費(圖:REUTERS/TPG)
AI太燒錢?輝達投資新創出招 稱幫客戶省67%運算費(圖:REUTERS/TPG)

《華爾街日報》(WSJ)周一(19日)報導,獲輝達(NVDA-US)、戴爾(DELL-US)投資的以色列新創doubleAI,將推出首款「程式碼執行模型」Maxwell,透過改善軟體執行效率,協助企業降低運算成本。公司表示,已替一家早期客戶節省67%的運算費用。

總部位於特拉維夫的doubleAI成立約兩年,累計募資2.2億美元,由Mobileye(MBLY-US)共同創辦人暨執行長沙舒亞(Amnon Shashua)共同創立並掌舵,目前約有40名員工。

不同於協助人類撰寫程式的大型語言模型,doubleAI所稱的「程式碼執行模型」直接在運行中的程式內工作,無須人工介入,就能自動找出提升執行效率的方法。沙舒亞表示,關鍵突破在於透過形式化、數學方法驗證程式碼。

Maxwell鎖定GPU與CPU運算成本攀升的問題。沙舒亞指出,運算需求增長速度超過硬體供給,提高既有設備使用效率便能節省可觀費用。研究機構SemiAnalysis數據顯示,一年期合約下,輝達H100算力每小時租金過去一年上漲60%。

AI業者LTX表示,導入Maxwell後,旗下模型推論速度提升至原本兩倍,GPU使用時間減半,可直接降低服務成本、改善利潤。

doubleAI計畫依客戶節省的運算費用抽成,但未公布比例。Maxwell預計本月稍晚擴大供應,沙舒亞認為,OpenAI、Anthropic等訓練與推論支出龐大的AI實驗室最能受惠,即使只節省10%,也可能省下數億美元。

為確保自身算力供應,doubleAI已將約一半募資款用於購買1,000顆輝達B300晶片。沙舒亞表示,租金持續上漲,企業不能只依賴租用算力。


延伸閱讀

相關貼文

prev icon
next icon