馬斯克倡美中AI企業交叉審查模型 避免「自己改作業」

馬斯克倡美中AI企業交叉審查模型 避免「自己改作業」(圖:shutterstock)
馬斯克倡美中AI企業交叉審查模型 避免「自己改作業」(圖:shutterstock)

多家外媒報導,馬斯克週一 (14 日) 呼籲,包括xAI、OpenAI、Anthropic、Google、Meta及數家中國主要AI企業在內的業者,應在模型公開前,允許競爭對手使用各自的安全測試工具交叉檢驗,以提高發現潛在風險的機率。

馬斯克在洛杉磯All-In Summit提出AI模型「交叉審查」構想,建議美中等主要AI企業共同參與。馬斯克表示,這套機制可讓競爭對手在模型公開前,檢視開發商的安全措施並提出警告。

他說:「這樣就不是自己改作業,至少會有競爭對手替你改,一旦發現疑慮便拉響警報。」

馬斯克坦言,交叉測試並非完整解方,但可大幅提高發現問題的機率。目前其他AI實驗室尚未同意這項提案,但他認為中國企業可能願意參與。

他表示,這項安排是朝正確方向邁進的一步,而且可以迅速推動。

無獨有偶,微軟執行長納德拉 (Satya Nadella) 也支持引進第三方評估,強調AI必須始終由人類掌控。

納德拉支持擴大外部及第三方測試,並認為企業在模型上線前,應視安全風險調整研發及測試速度。

他寫道:「風險越高,就越應該花足夠的時間。如果做不到,企業終究會失去繼續營運的社會許可。」

納德拉表示,微軟將把這項原則運用於模型開發,在技術堆疊各層建立可觀測性,藉此執行治理與風險控制。

微軟AI同日也公布一份長達37頁的「人本AI」行為準則草案,開放外界提供意見。微軟AI執行長蘇萊曼 (Mustafa Suleyman) 表示,業界長期停留在理論層面的憂慮,如今已變得非常現實。

這項主張正值AI安全爭議升溫之際。Anthropic執行長Amodei週末呼籲放慢AI模型開發,罕見獲得馬斯克與OpenAI執行長阿特曼 (Altman) 支持。

相關疑慮也因前Anthropic及OpenAI員工Coxon上週辭職而加劇。Coxon表示,領先的AI實驗室正在「拿人類的生命下注」。

Amodei則在文章中提出,AI實驗室可接受由「嵌入式評估人員」進行第三方技術審查,以驗證業者是否落實安全措施。

然而,面對科技業要求放慢開發的聲浪,白宮高層仍反對對AI施加新的限制。

美國總統川普週一在Truth Social發文,將AI威脅形容為「騙局」及「詐騙」。

白宮國家經濟會議主任哈塞特 (Kevin Hassett) 週二表示,AI風險應由產業界主導處理,而非由政府直接介入;但主管機關已準備在必要時採取執法行動,確保企業負責任地行事。

中國外交部發言人則駁斥科技業放慢AI開發速度的呼籲,形容相關說法是在「製造恐慌」。


延伸閱讀

相關貼文

prev icon
next icon