在全球人工智慧（AI）三大巨頭罕見聯手呼籲「放緩AI研發」的同一個週末，Anthropic執行長Dario Amodei近日接受《CBS》節目《Sunday Morning》專訪，談及AI快速發展可能帶來的風險。他表示，目前已有人嘗試利用AI研發生物武器、提升病毒傳播能力，這類威脅已成為他每天都必須面對的問題。
Amodei指出，Anthropic日前發布的一份威脅情報報告，便涉及有人濫用AI模型進行生物武器研發。
他坦言，自己當然不希望Anthropic的模型被用於造成傷害，因此公司在生物學相關能力上採取非常嚴格的安全防護措施。
他甚至提到，Anthropic的生物安全限制嚴格到經常遭到社群嘲諷，部分生物學學生也抱怨模型「沒辦法使用」。
不過，Amodei強調，與其因為安全措施受到嘲笑，他更不願看到有人利用Claude造成大規模傷亡。
週末，Amodei發表的一篇部落格文章《我們必須為尖端AI踩剎車》（We Must Pace the Frontier）引發軒然大波，並隨即獲得馬斯克、OpenAI執行長Sam Altman相繼公開支持。
AI發展進入「變陡」階段 Amodei：這是警告訊號
主持人Jo Ling Kent在訪談中直接問Amodei，AI是否真的可能在不久的將來導致人類滅亡。Amodei並未認為眼下需要陷入恐慌，但他認為目前確實出現值得重視的警訊。
他以指數成長曲線形容AI技術發展，從1、2、4、8、16、32一路上升，目前已進入曲線開始快速變陡的階段。Amodei坦言，即使自己長期提醒外界AI進步速度可能非常快，真正面對如此快速的進展時，仍比預期更加震撼。
因此，他主張AI產業應該適度放慢尖端模型的發展速度，但這並不代表要關閉AI產業或停止技術研發。
Amodei認為，真正需要確保的是，AI的安全防護、理解能力與控制能力必須跟得上技術進步。如果模型能力持續快速提升，但人類對風險的理解及控制手段沒有同步進步，便可能形成問題。
Amodei提三步方案 第三方評估員成關鍵
針對如何降低AI風險，Amodei進一步說明他提出的三階段方案，其中最重要的一步，是引入嵌入式第三方評估機制。
他主張，可以由第三方非營利組織，甚至未來由政府機構派遣評估人員，觀察AI模型從訓練到運作的完整流程。他將這類人員比喻為食品安全檢查員，但也承認，AI技術進步速度如此之快，第三方評估機制本身也必須考量能否跟上。
Amodei認為，評估員能夠跟上的速度，本身就可能成為決定AI技術推進速度的因素之一。
第二步則是由多家AI業者共同建立安全標準，包括模型發布及技術推進的安全標準。不過，他認為若要真正落實，政府也必須參與其中。
第三步則是政府正式進入這場對話。Amodei表示，當討論涉及AI產品應以多快速度發布、這樣的速度是否安全時，政府必須在場。
「AI終止開關」未必有效 Amodei主張多層防線
對於國會議員Ted Leo提出的「AI終止開關」法案，Amodei表示自己尚未詳細研究法案內容，但對「終止開關」概念本身抱持保留態度。
他認為，能夠限制、停用或關閉AI模型固然是一種手段，卻不能被視為唯一解方。若AI模型強大到一定程度，甚至可能具備規避人類關閉嘗試的能力，而Anthropic在模擬環境中也曾觀察到類似情況。
Amodei因此以「瑞士起司模型」說明他的安全理念：單一安全措施就像一片存在漏洞的瑞士起司，無法完全阻擋風險；但若建立多層防線，各層漏洞位置不同，風險便較難穿透整個體系。
他強調，沒有任何單一措施能夠完全防範AI風險，因此必須在整個AI開發與部署鏈條上維持警戒。
至於參議員Bernie Sanders與眾議員Greg Casar提出、主張「禁止超級人工智慧法案」，Amodei則明確反對全面禁止AI的方向。
他認為，若完全禁止這類技術，人類也將無法獲得AI可能帶來的重大好處，包括醫療領域的突破，這是他無法接受的結果。
父親死於丙肝、本人曾罹癌 Amodei談AI帶來的另一面
談到AI可能影響人類未來的風險與責任時，Amodei也罕見分享自己的家庭與健康經歷。
他表示，自己的父親因丙型肝炎去世時，這種疾病的治癒率約為40%，父親並未成為成功治癒的患者；但就在父親過世幾年後，一種新藥問世，將治癒率提高至約95%。
Amodei也透露，自己曾罹患早期癌症。如果生活在1950年，他可能已經因此死亡。
正因如此，他深刻體會到推動AI發展、讓科技帶來醫療等領域突破的重要性，但另一方面，也同樣感受到技術失控可能造成的風險。
他強調，這不應該成為自己或Anthropic單獨承擔的責任，而是涉及整個社會。他希望能找到一套機制，讓所有人都能參與相關討論，而不是讓一般民眾感到幾家科技公司可以自行決定AI未來。
回應前員工批評 Amodei：我們面對的是同一個結構性問題
對於前Anthropic員工Jacob Coxin公開批評Anthropic與OpenAI沒有負責任地行事、甚至是在拿人類生命冒險，Amodei則認為，外界引用相關言論時忽略了其中另一個部分。
他表示，Coxin同時認為Anthropic是主要AI業者中較為負責任的一家，而他所指出的核心問題，其實與Amodei目前提出的警告相同，也就是所有AI公司共同面臨的結構性困境。
Amodei表示，他提出的三階段方案正是希望處理這種結構性問題。
他並透露，Anthropic每天都與美國商務部、財政部及情報界官員溝通，並向政府部門分享公司掌握的資訊。
Amodei：AI產業對風險「說謊太久」
對於一般正在使用Claude、ChatGPT等AI工具的民眾，Amodei表示，AI本身仍是一項具有大量正面用途的重大技術，目前每週都有數億人利用相關技術完成各種事情，他也經常收到使用者來信，表示Claude協助發現醫師未能診斷出的疾病。
不過，他強調自己不會對使用者隱瞞AI存在的風險。
Amodei認為，AI產業過去太長時間都以非常正面的方式呈現這項技術，對相關風險避重就輕。他主張，面對AI快速發展，第一步就是必須誠實告訴大眾風險確實存在。
他最後表示，AI是人類歷史上最重要的技術事件之一，因此不能只由少數科技公司決定其發展方向，而應該讓所有人參與其中。
