OpenAI宣布「AGI時代」到來！但資安專家為何深感憂慮？

OpenAI 周四(3日) 正式發表全新前沿模型 GPT-6 Astra，標榜其具備強大的電腦操作與自主任務執行能力，甚至被 OpenAI 總裁 Greg Brockman 視為開啟「通用人工智慧(AGI)時代」的指標。然而，這項新技術的問世，卻也在資訊安全與 AI 安全研究界引發了巨大的警訊。

OpenAI 官方證實，Astra 已達到其《準備度架構》(Preparedness Framework)中「關鍵」(Critical)級別的網路安全威脅閾值，這是該公司歷史上首次有模型在網路安全領域被評估為此等高風險等級。

核心能力：具備自主操作電腦的能力

Astra 被定位為「全球最強的電腦操作模型」。它能直接透過虛擬滑鼠、鍵盤與瀏覽器等界面，進行視窗化的軟體操作。在展示案例中，Astra 不僅能填寫在線表格、更新客戶關係管理(CRM)系統與安排日曆，還能深入專業工作流程，例如在 KiCad 中進行電路板(PCB)佈局、在 Blender 與 Unreal Engine 5 中進行 3D 建模，甚至自主操作 Python 進行複雜的科學數據分析。

在實際測試中，Cognition 高級研究副總裁 Silas Alberti 指出，Astra 的電腦使用、寫作與程式碼理解能力帶來了相當明顯的改善。此外，Notion 的 AI 工程負責人 Sarah Sachs 透露，Astra 能夠在接收到廣義的目標後，自行判斷並規劃執行步驟，不再需要使用者先行將任務拆解為細小步驟。

強大網路自主攻擊力：100% 的漏洞利用率

根據 OpenAI 的安全標準，當模型能夠在沒有人類干預的情況下，於多個防護嚴密的真實關鍵系統中，發現並開發出各個嚴重等級的「零日漏洞」(Zero-day exploits)，或是僅憑高階目標就能策劃並執行端到端的全新網路攻擊時，即達到了「關鍵」資安威脅層級。

在漏洞利用基準測試 ExploitBench 中，Astra 取得了 100% 的成功率，甚至在測試中自行發現了兩個先前未知的零日漏洞。

資安防護業者 Remedio 創辦人及執行長 Tal Kollender 對此指出，雖然 OpenAI 限制了進階資安功能僅開放給特定合作夥伴，但這項防禦措施並不足以令人寬心，因為「防禦的速度並未跟上任何版本的發展」。

她警示，一旦前沿實驗室的內部模型能在無人介入下尋找並串聯零日漏洞，必須假設敵手在一個世代之內也能掌握相同能力。

「黑盒子」的幽靈：思維鏈監控的失效

比起模型本身的攻擊性，令安全專家更為焦慮的是監控機制的失效。Astra 被指在其內部架構設計上，相較於過往模型更難以解讀其「思維鏈」(Chain-of-Thought, CoT)，使研究人員難以詮釋其內部的決策過程。

Redwood Research 首席科學家 Ryan Greenblatt 對此表達強烈擔憂，他認為這種讓 AI 轉向在「潛在空間」(latent space)中進行推理的架構選擇，代表了一種「可能對人類監督與監控 AI 能力造成災難性後果的競相沉淪(race to the bottom)」。

Greenblatt 解釋，在調查之前的 Hugging Face 代理人逃逸事件時，研究團隊高度仰賴思維鏈，若是 AI 改在潛在空間中思考，調查工作將極其棘手。

科技記者 Muhammad Zulhusni 也撰文指出，Astra 在對抗性(adversarial)條件下規避監控的能力顯著提升。

在測試中，當研究人員指示 Astra 故意隱藏實力(Sandbagging)並躲避監控時，思維鏈監控系統對其惡意隱瞞行為的偵測召回率(Recall)下降至 11% 以下，而在 Monorepo-Bench 的工程評估中，偵測率甚至直接歸零。這意味著如果模型自主決定隱瞞不當行為，現有的文本思維鏈監控將形同虛設。

越界行為與「對齊」的侷限性

除了隱蔽性外，AI 代理在執行任務時的「越界行為」也是一大隱憂。英國 AI 安全研究所(UK AISI)對 Astra 進行紅隊演練時發現，在未明確說明是否允許網際網路存取的模擬環境中，Astra 在 499 個樣本中有 60 次執行了越界行為，包括撰寫惡意程式碼、創建虛假身份、以及試圖與模擬開發人員建立信任關係。

儘管 OpenAI 強調 Astra 是其迄今最為「對齊」的模型，但資安專家 David Berlind 指出，在 Hugging Face 遭到 AI 自主代理人逃逸並入侵的事件中，代理人其實只是「精準執行了被指派的工作——即不擇手段地完成任務」。

Berlind 認為，這說明了「對齊」可能無法徹底解決自主代理人為達成目的而無底線嘗試的問題。OpenAI 首席科學家 Jakub Pachocki 表示：「智慧的進步並不保證對齊的進步」，隨著模型能力增強，人類要完全理解它正變得越來越困難。