Anthropic籌備大型首次公開發行(IPO)，估值可能高達2兆美元，但潛在投資人面臨一道難題：如果AI失控造成重大損害，甚至威脅人類生存，這種難以量化的風險該如何反映在股價上？
據《彭博》報導，部分研究人員在社群平台X討論AI導致人類滅絕的機率可能達10%以上，引發爭論。Anthropic共同創辦人暨執行長阿莫戴(Dario Amodei)也撰文警告，若開發腳步未放緩，人類可能失去對AI的控制，技術也可能被用於網路攻擊、生物恐怖主義，或造成嚴重經濟衝擊。
潛在賠償難估算 投資人未必反映在估值
創投機構Slow Ventures合夥人雷辛(Sam Lessin)主張，美國政府應要求AI實驗室提存1兆美元現金，支應未來可能造成的損害，類似金融危機後要求銀行增加資本緩衝。
他認為，即使不計人類滅絕情境，AI對社會造成的潛在負擔也可能達2兆至4兆美元，甚至讓公司的整體價值低於零。但部分投資人仍可能買進，因為預期最終會由其他人埋單。Anthropic對此不予置評。
這類疑慮尚未明顯澆熄市場熱情。SpaceX(SPCX-US)旗下Grok同樣參與AI競爭，其上市文件揭露錯誤資訊與AI欺騙等風險，卻未提及生存威脅。該公司6月IPO募得862億美元，目前股價仍較發行價高出逾20%；Anthropic則計畫募集相當或更高金額。
Private Shares Fund投資組合經理人莫斯(Kevin Moss)認為，AI確實需要監管架構，但安全辯論不太可能打亂Anthropic上市計畫。川普政府雖表達關切，也同時重視鬆綁監管與對中競爭。
安全投入可能成優勢 保險仍難承擔所有損失
川普近期與包括阿莫戴在內的科技領袖達成具有「道德約束力」的AI安全協議，緩和部分投資人焦慮。不過，降低風險的責任目前主要仍由企業承擔。
PitchBook分析師羅爾夫斯(Harrison Rolfes)指出，安全機制會增加成本，但也可能提升客戶信任；若中國或開源競爭者無法達到相同標準，反而可形成競爭優勢。
保險則未必能完全保護股東。英國石油(BP-US)2010年深水地平線事故造成11人死亡，其自保安排額度僅7億美元，最終事故成本卻高達數百億美元。
Relm Insurance執行長齊奧爾科夫斯基(Joe Ziolkowski)表示，AI缺乏歷史理賠數據，責任歸屬也不明確，使企業取得保障面臨挑戰。隨AI從提供資訊走向自主決策、與其他代理互動，損失由誰負責愈加迫切。
他認為，投資人不太可能為無法量化的風險調降IPO估值。因此，在這些風險能被客觀估算之前，反而是企業籌資的有利時機。
