OpenAI開放Agents API!Codex代理框架全面向開發者開放
OpenAI正將支撐旗下程式設計代理Codex的底層技術進一步對外開放,將過去累積於內部產品與企業服務的人工智慧(AI)代理開發經驗,轉化為開發者可直接使用的API。
OpenAI近日宣布,Agents API正式進入公開測試階段,現在所有開發者均可使用。過去這套代理框架及相關基礎設施主要應用於Codex與企業版ChatGPT,如今則以API形式開放,開發者不需額外支付訂閱費,只須按照實際使用的token及工具呼叫量付費。
隨著Codex及ChatGPT for Work過去一年觸及全球數百萬名使用者,OpenAI在實際應用中發現,讓AI代理長時間執行複雜任務,單靠模型本身並不足夠。
代理還需要能夠管理上下文、使用工具、協調其他代理,以及在能讀寫檔案、執行程式碼並保存中間結果的環境中持續運作。
早期客戶的使用結果也顯示,這套架構已帶來一定效益。SafetyKit將案件審核流程移轉至Agents API後,單一案件的處理成本降低60%;Hypha透過將代理執行框架與沙箱環境分離,使代理回應失敗率降低86%;科技公司Cirridae的評估分數則由0.71提升至0.85,同時延遲降低4倍。
單次API呼叫即可建立長時間運作代理
Agents API的主要目的,是降低企業及開發者打造長時間運作AI代理所需的工程成本。
過去每當新的AI模型推出,開發者往往需要重新調整甚至重建自己的代理執行框架,才能使用模型新增的能力。
OpenAI希望透過版本化的Agents API,讓模型更新能直接對應相應的能力,而不必由開發者自行重新打造底層架構。
根據OpenAI的設計,開發者只要在API呼叫中指定任務、模型、工具及執行環境,即可建立可用於生產環境的代理,無須自行處理上下文管理及子代理協調等底層工作。
Agents API目前具備3項主要能力。
首先是自動壓縮上下文。當對話內容接近模型上下文容量上限時,系統會自動壓縮較早期的資訊,使代理能夠持續執行數小時甚至數天。
其次是工具搜尋與平行呼叫。系統可依照任務需求載入相關工具定義,降低token使用量,同時允許多項工具呼叫平行執行。
第三則是多代理協作。主要代理可以將複雜工作拆解後交給多個子代理平行處理,每個子代理各自維持上下文,再由主要代理整合最終結果。
物流科技公司Nash表示,目前透過Agents API部署數千個長時間運作的AI代理,用於管理全球數億次配送任務,單次代理執行時間可持續數小時甚至數天。
自託管沙箱與多家雲端業者提供部署選項
除了代理框架本身,Agents API也提供不同的執行環境選擇。
OpenAI提供自託管沙箱,並與Codex及ChatGPT採用相同的沙箱基礎設施,讓代理能夠快速啟動並進行彈性擴展。
此外,OpenAI已與Blaxel、Cloudflare、Daytona、DigitalOcean、E2B、Modal、甲骨文(Oracle)、Runloop及Vercel等合作夥伴進行一級整合,提供不同的部署選項,包括私有雲、特定儲存需求,以及不同CPU、GPU與記憶體配置。
OpenAI表示,這種架構可涵蓋從新創團隊快速驗證產品,到企業級正式部署等不同需求。
建築及居家服務AI平台Long Lake表示,透過Agents API,團隊目前可在數小時內將AI代理部署至不同產業,過去則可能需要數天。
開源Codex執行框架 模型升級可直接受惠
Agents API是建立在開源Codex執行框架之上,開發者可以透過公開程式碼庫了解模型呼叫、工具協調及上下文管理等核心運作方式。
OpenAI則負責持續維護及更新這套框架。換言之,當新模型推出時,開發者可直接取得更新後的能力,而不必自行重新設計整套代理架構。
OpenAI指出,Agents API目前仍處於公開測試階段,後續將根據開發者回饋持續調整,並朝正式發布推進。
在工具支援方面,Agents API支援MCP協定、自訂函式及網頁搜尋等內建工具。定價方面,API本身不另收訂閱費,開發者則依實際token消耗及工具使用量支付費用。