AI競賽變了!企業從比模型大小轉向比成本效率

(圖:REUTERS/TPG)
(圖:REUTERS/TPG)

人工智慧 (AI) 產業競爭正進入新階段。過去兩年,各家科技公司比拚的是模型規模、效能與測試成績,但隨著 AI 逐漸從實驗走向企業實際應用,市場競爭焦點正從「誰擁有最大模型」,轉向「誰能以更低成本、更高效率完成特定工作」,也讓開源模型、混合式 AI 架構及模型調度能力成為下一波競爭核心。

Perplexity 執行長 Aravind Srinivas 接受《CNBC》訪問時表示,如今 AI 模型本身已不再是最終產品,真正重要的是能夠整合不同模型、工具與企業資料來源的協調系統 (orchestration system)。他指出,AI 系統應能依照不同任務,自動選擇最合適的模型,而非一味使用最強大的大型語言模型。

他表示,客服應用未必需要最昂貴的模型,複雜程式設計可能需要更高階模型,而企業內部例行工作則可交由成本較低的開源模型處理,僅在必要時才切換至更高效能模型。他強調,企業應「針對不同任務使用最適合的模型」。

這股趨勢也反映企業開始更加重視 AI 投資報酬率。隨著美國企業持續控管 AI 支出,過去憑藉最先進模型取得優勢的 OpenAI 及 Anthropic,正面臨新的市場挑戰。

Perplexity 本周展示旗下電腦操作 (computer-use) 產品的新系統,採用中國 AI 公司智譜 (Z.ai) 推出的開源模型 GLM 5.2 作為核心架構,設計理念是由成本較低的模型處理大部分工作,只有在需要更高推理能力時,才調用更強大的模型執行任務。

市場人士認為,這反映整體 AI 市場正在轉向。可供企業自行下載、部署及微調的開源 (Open-weight) 模型,不僅能力快速提升,運行成本也低於大型 AI 實驗室推出的封閉式商業模型。

創投公司 Benchmark 合夥人 Peter Fenton 表示,未來 18 至 24 個月,甚至最快今年底以前,超過 90% 的 AI Token 將可能由開源模型產生,這項原本屬於少數派的觀點,如今正逐漸成為市場共識。

Token 是 AI 模型處理及生成資料的基本單位,也是衡量 AI 運算量的重要指標。

Fenton 指出,隨著開源模型持續進步,大型 AI 模型供應商目前依靠推論 (Inference) 服務建立的高毛利率,未來將面臨越來越大的價格壓力。當企業可以自行部署足夠優秀的開源模型時,就不需要支付大型 AI 公司額外收取的溢價。

他也表示,企業採用開源模型並非只是為了降低成本,針對特定用途微調後的小型模型,在某些情境下不僅速度更快,實際表現甚至優於大型通用模型。

這也是 Benchmark 投資 Ollama 的重要原因之一。Ollama 提供企業與開發者下載、部署及管理開源 AI 模型的平台。

Ollama 執行長 Jeff Morgan 表示,企業真正關心的不只是模型來自哪裡,而是模型在哪裡執行、如何執行。他透露,目前已有超過 85% 的《財富》500 大企業採用 Ollama,包括航空、保險及醫療等高度監管產業。多數企業一開始會先部署靠近自身資料的小型模型,之後再逐步導入更大型的開源模型。

另一方面,開源 AI 快速發展也對美國帶來新的戰略挑戰。目前多款具競爭力的開源模型均來自中國 AI 公司,包括智譜 (Z.ai) 及 DeepSeek,使開源 AI 不再只是商業競爭,更涉及科技政策及國家競爭力。

Srinivas 認為,美國應積極支持開源 AI 發展,因為唯有降低 AI 使用成本,才能讓更多中小企業及美國盟友普遍享有 AI 技術帶來的效益。他表示,若希望 AI 真正普及,開源模式是最有效的方法。

此外,AI 發展方向改變,也可能影響全球科技業正積極推動的大型資料中心建設。過去市場普遍假設,AI 需求將持續集中於部署高階晶片的大型雲端資料中心,但 Srinivas 認為,未來部分 AI 工作可能直接在企業或消費者終端裝置本地執行,僅將高難度任務交由雲端大型模型處理。

分析認為,未來 AI 基礎架構可能演變為混合式模式 (Hybrid AI),由本地裝置負責日常工作,複雜任務再交由雲端運算,不僅有助降低企業成本,也可能改變未來 AI 算力及資料中心投資方向。

對投資人而言,隨著開源模型能力持續提升,企業也更重視成本效益,未來 OpenAI、Anthropic 等大型 AI 模型供應商能否維持目前的產品定價能力,將成為 AI 產業下一階段的重要觀察指標。


相關貼文

prev icon
next icon