控速不停止!奧特曼:全球需要相信美國AI企業將負責行事 歡迎建立統一安全要求框架

(圖:shutterstock)
(圖:shutterstock)

OpenAI執行長奧特曼最新表示,支持對AI研發「控制節奏」的想法,以確保最先進模型的能力增長不會快到超出人類維持控制的能力。

奧特曼呼應了Anthropic執行長Dario Amodei近期表態。他周日(13日)在X平台上發文表示,將更多資源和研發重心轉向安全雖會帶來代價,但為了維持外界對美國企業正負責任地開發日益強大的AI的信心,這樣做是值得的。

奧特曼在文中寫道:「無論美國面臨多大的競爭壓力,都不應成為魯莽行事的藉口,也不應讓能力發展超越安全對齊和監測機制。」

他同時強調,確保安全並不意味著停止技術進步。「當我們談論『控制節奏』時,並不是在談論『停止發展』。」

週一,亞洲AI相關股票普遍下跌。OpenAI重要投資人軟銀在東京股市重挫13%,南韓三星電子和SK海力士在首爾市場跌幅均超過4%。

奧特曼在周日推文中也重申OpenAI支持建立聯邦層面的AI監管框架。在外界普遍擔心美國AI企業即使主動放慢研發節奏。

他寫道,「OpenAI歡迎一套聯邦監管框架,為先進AI設立統一的安全要求。不過,企業無需等待反壟斷豁免或相關立法落地,才開始建立這種信任」,並指出制定統一規則管控前線風險,例如引進獨立審計機構,是實現收益最大化的良策。

奧特曼還表示,轉向聚焦安全的AI開發與評估,需要新的工具。OpenAI期待與其他產業參與者合作,制定關於模型對齊偏差、監控及安全性的標準。


相關貼文

prev icon
next icon