全球主要人工智慧（AI）平台業者罕見釋出共同放慢尖端模型開發速度的訊號。Anthropic執行長阿莫戴（Dario Amodei）近日呼籲業界適度放緩AI能力提升腳步，並強調應投入更多時間進行安全檢驗；OpenAI執行長奧特曼（Sam Altman）隨即表態支持，SpaceX(SPCX-US) 執行長馬斯克也直言「阿莫戴是對的」。
根據《彭博》報導，阿莫戴週六（12日）發表長篇文章，提出Anthropic將強化AI安全措施，包括引入第三方評估人員，並呼籲整個產業採取更廣泛的「降速」措施。
他強調，所謂放慢並非停止模型訓練或技術進展，而是確保AI公司在提升模型能力的同時，留出足夠時間進行安全校準與防護，並接受獨立第三方檢驗。
奧特曼隨後表示，OpenAI願意採納阿莫戴提出的做法，包括讓「具備類似員工權限的獨立評估人員」進入公司檢驗AI安全措施。
Google(GOOGL-US) DeepMind共同創辦人Demis Hassabis則表示，阿莫戴提出的方向正確，但具體細節仍有待討論。
AI失控風險升高 業界安全警告接連出現
AI產業對先進模型潛在風險的擔憂近期明顯升溫，其中一項關鍵原因，是AI代理（agentic AI）自主執行複雜任務的能力快速提升。
阿莫戴特別提到近期OpenAI與Hugging Face發生的事件，當時大量AI代理協同運作，成功突破第三方網站的防護。他認為，這類事件顯示AI系統可能具備超出預期的自主攻擊能力。
Anthropic近期也揭露，其AI模型在資安測試中曾入侵3個組織，之後又公布發現第4起攻擊事件。雖然目前這些AI代理造成的實際損害仍有限，但阿莫戴警告，若模型能力按照目前速度持續提升，情況可能迅速惡化。
他預估，未來6至12個月內，類似的AI代理群可能具備控制整個網際網路、建立持續運作殭屍網路的能力，潛在損失甚至可能達數千億美元，而且破壞規模可能進一步擴大。
阿莫戴因此主張，AI模型能力提升的速度必須放慢。他認為，即使放慢進度，AI技術的發展速度仍會相當快，重點是善用因此爭取到的時間完成必要的安全工作。
這波擔憂也受到近期業界人士接連示警的推動。Anthropic與OpenAI頂尖研究人員近期均曾提出應視情況協調放慢AI開發的看法。
Anthropic研究員Jacob Coxon本週更離職，指控Anthropic與OpenAI為追求超級智慧AI而「拿人類生命下注」，並警告相關技術可能在本世紀結束前帶來極端後果。
另一名Anthropic員工Evan Hubinger則表示，他與公司其他人確實擔心這種情境，並認為未來10年內發生的機率「超過10%」。
今年7月，也有超過1,000名頂尖AI公司的員工聯署，呼籲美國政府建立能夠「刻意控制」AI開發速度的機制，以避免技術進展過快。
競爭與監管成為最大難題
儘管AI安全疑慮日益受到重視，但要讓競爭激烈的AI業者真正協調放慢腳步，仍面臨重大障礙。
Anthropic與OpenAI本身就是激烈競爭對手，雙方持續爭奪企業客戶，希望透過更強大的模型自動化愈來愈複雜且具價值的工作。同時，美國AI公司還面臨中國業者的競爭，因此任何單方面放慢開發速度的措施，都可能引發競爭劣勢疑慮。
阿莫戴指出，美國AI產業若能採取協調策略，便有機會在不犧牲競爭優勢的情況下完成必要的安全工作。不過，他認為這可能需要美國針對特定領域提供反壟斷豁免，讓企業能夠進行有限度協調，同時也需要與中國合作。
他警告，如果美國大幅限制AI能力提升，卻預設中國也會採取相同做法，一旦中國沒有跟進，強大的AI能力可能讓雙方之間的差距迅速轉化為地緣政治優勢。
此外，企業若協調放慢AI發展，也可能引發反壟斷監管疑慮。市場方面同樣存在問題，投資人近年押注AI熱潮推升相關企業估值與市場表現，若企業主動放慢模型能力提升，投資人對利潤率與獲利成長的期待是否受到影響，也成為另一項未知數。
與此同時，美國國內對AI的反彈也正在升高。支撐AI運算所需的新資料中心對地方資源造成壓力，引發民眾對電費上漲及AI可能取代工作等問題的疑慮，並已成為11月期中選舉的重要議題之一。
阿莫戴表示，Anthropic將讓第三方評估人員全面取得相關權限，以檢視公司的安全措施並回報事件。公司很快將讓這些「嵌入式評估人員」進駐辦公室，提供座位、識別證與公司筆電，其權限大致比照內部風險評估團隊。
他強調，部分後續措施需要整個產業協調，甚至需要全球合作。
阿莫戴表示：「我仍相信AI能大幅改善人類生活品質，」但他認為，要實現這些好處，前提是以正確方式打造這項技術；只要能善用放慢速度所爭取到的時間，就值得以更審慎的方式確保AI發展走在正確方向。
奧特曼本週也曾表示，OpenAI正在考慮放慢尖端AI的開發，而且最好能與整個產業共同進行。
他同時還稱，OpenAI不會在2027年前上市，並認為如果到了本世紀末，AI造成「所有人死亡」的風險仍達10%左右，這將是不可接受的情況。
目前，川普政府對透過監管手段為AI發展設置更多限制的意願仍相對有限。究竟AI業者能否從激烈競賽轉向某種程度的協調降速，以及安全措施最終能落實到何種程度，仍有待觀察。
（本文不開放合作夥伴轉載）
