新AI模型太強惹議!歐盟要求先審 OpenAI率先表態 Anthropic仍未鬆口

新AI模型太強惹議!歐盟要求先審 OpenAI率先表態 Anthropic仍未鬆口(圖:REUTERS/TPG)
新AI模型太強惹議!歐盟要求先審 OpenAI率先表態 Anthropic仍未鬆口(圖:REUTERS/TPG)

綜合外媒報導,歐盟執委會正加快與美國人工智慧 (AI) 公司 OpenAI 及 Anthropic 的接觸,盼在新一代高風險 AI 模型正式大規模部署前,能提前掌握技術能力與潛在資安風險。

歐盟執委會發言人雷尼耶 (Thomas Regnier) 周一 (11 日) 表示,歐盟目前已與兩家公司展開持續對話,其中 OpenAI 不僅主動與歐盟接觸,更已確認將向歐洲夥伴開放其最新網路安全模型的存取權限,雙方本周也將進一步磋商具體安排。

OpenAI 上周宣布推出 GPT-5.5-Cyber,這是其最新 AI 模型的網路安全版本,目前僅向經過審核的資安團隊提供有限預覽。根據 OpenAI 最新說法,未來歐洲企業、政府部門、網路安全主管機關,以及歐盟 AI 辦公室 (EU AI Office) 等機構,也將獲准接觸這套模型,以便更早掌握相關技術能力與潛在風險。

此舉距離 Anthropic 推出旗下高階模型「Mythos」僅約一個月,該模型因具備更強大的程式與自動化能力,一度引發外界對關鍵軟體系統可能遭濫用或發動網路攻擊的疑慮。

雷尼耶在例行記者會上表示,歐盟樂見 OpenAI 展現透明態度,並主動提出讓執委會接觸新模型。他指出,雙方已完成初步資訊交換,未來幾天還將舉行進一步討論,這將有助於歐盟更密切追蹤模型部署情況,並及早因應可能的安全風險。

相較之下,Anthropic 雖已與歐盟進行多次接觸,雷尼耶透露,雙方大約已舉行四至五次會議,但目前尚未進入討論模型預覽權限的階段。他坦言,與 OpenAI 相比,雙方對話仍處於「不同階段」,現階段無法推測 Anthropic 是否會向歐盟開放 Mythos 供審查。

OpenAI「OpenAI for Countries」主管奧斯本 (George Osborne) 則表示,像 OpenAI 這類 AI 實驗室不應成為網路安全的唯一裁判者,真正的數位韌性來自可信夥伴共同合作。OpenAI 也同步宣布啟動「EU Cyber Action Plan」,希望與歐洲政策制定者、機構與企業合作,擴大防禦型 AI 工具的應用。

在全球監管機構對生成式 AI 安全性日益關注之際,歐盟正試圖透過更早介入,掌握高風險模型的部署進程與潛在衝擊。


延伸閱讀

相關貼文

prev icon
next icon