貴爆!一家公司一個月噴掉5億美元 全因忘了設Claude用量限制

貴爆!一家公司一個月噴掉5億美元 全因忘了設Claude用量限制 (圖:shutterstock)
貴爆!一家公司一個月噴掉5億美元 全因忘了設Claude用量限制 (圖:shutterstock)

隨著企業近年大舉導入人工智慧 (AI) 工具,龐大的運算成本開始浮上檯面。美國媒體《Axios》報導指出,部分企業高層正積極重新評估 AI 投資效益,原因在於 IT 支出快速攀升、生產力提升幅度有限,加上員工與消費者對 AI 的接受度逐漸下滑。

報導指出,企業對 AI 的熱情正面臨現實考驗,微軟已取消大部分 Claude Code 授權,部分原因與成本過高有關;優步營運長也坦言,AI 相關支出已變得「越來越難以合理化」。

更引發市場關注的是,一名 AI 顧問向《Axios》透露,其客戶因未對員工使用 Anthropic 旗下 Claude 設定用量限制,單月 AI 支出竟高達 5 億美元 (近台幣 150 億元)。

該案例迅速在科技、金融圈引發熱議,也凸顯企業導入生成式 AI 後面臨的成本管理挑戰。

除了支出失控外,不少企業也開始以 AI 自動化為由進行裁員。CloudBees 執行長 Anuj Kapur 表示,部分企業縮減人力未必完全是因為 AI 提升效率,而可能只是為了抵銷快速膨脹的 AI 帳單。

Micro1 執行長 Ali Ansari 認為,企業界正經歷一場從「Tokenmaxxing」(AI 代幣極大化) 回歸理性的修正過程。所謂 Tokenmaxxing,是指企業追求大量消耗 AI Token,希望從中挖掘更多價值,但這種模式往往造成成本暴增,卻未必能帶來相對應的投資報酬。

Ansari 指出,目前市場普遍高估 AI 在企業各部門的適用性,實際上 AI 最成熟且最具效益的應用仍集中在程式開發領域。若企業盲目擴大部署範圍,可能導致 IT 成本上升,卻無法獲得預期回報。

目前企業導入 AI 面臨四大挑戰,包括「應用場景選擇錯誤、成本控管不足、人員使用效率有限,以及企業內部資料存取受限」等問題。

Velastegui Ventures 執行長、前微軟 AI 技術長 Sophia Velastegui 指出,許多員工習慣利用 AI 處理自己不喜歡的工作,而非最能為企業創造價值的任務。她認為,企業應將 AI 聚焦於提升營收與創造商業價值,而非僅追求工作便利性。

此外,一名科技長透露,甚至有員工使用企業級 AI 模型查詢天氣資訊,這類看似簡單的操作在大量使用下仍可能產生可觀成本。由於企業方案並非真正無限制使用,即使是一般聊天查詢也會持續消耗 Token 資源。

專注金融 AI 工具的 Boosted.ai 執行長 Josh Pantony 表示,許多企業基於資安與機密考量,不願讓 AI 代理存取核心資料庫,導致 AI 工具難以發揮完整效能。

隨著 AI 投資規模持續擴大,市場接下來將關注企業是否能建立更有效率的管理機制,在控制成本與提升效益之間取得平衡,避免 AI 熱潮演變成沉重的營運負擔。


延伸閱讀

相關貼文

prev icon
next icon