一名前 OpenAI 安全研究員近日離職後，批評公司對人工智慧（AI）安全的處理方式，認為企業文化過度追求快速開發，導致開發步調過於急促，增加系統發生失誤的風險。
根據《路透》報導，OpenAI前安全研究員羅賓森（David Robinson）近日離職後，週六（3日）在《大西洋》發表題為「I Quit OpenAI Because Its Culture Is Broken」的文章。
他指出，包括OpenAI在內的AI公司，對安全議題的謹慎程度遠遠不夠，應在開發更強大的AI系統前，優先投入安全專業與研究。
羅賓森指出，OpenAI高度依賴所謂的「迭代部署」（iterative deployment）策略，也就是先推出AI系統，再根據實際使用過程中出現的問題，逐步強化安全措施。
他強調，AI產業的「試錯時代已經結束」，先進AI系統所需的安全防護，應比照核能與航空等高風險產業採取更嚴格的標準。
他的批評也為 AI 產業內部的爭論增添新的聲音，焦點在於企業是否正以過快的速度開發愈來愈強大的系統。
OpenAI 及競爭對手 Anthropic 過去都曾因安全控制措施失效，或實驗性系統出現非預期行為而受到檢視。
羅賓森曾在OpenAI任職3年半，參與起草公司的準備度框架，並負責監督12次尖端模型發布的安全報告。
他在文章中寫道：「當公司從一次發布迅速奔向下一次發布時，卻未能達到我認為必要的謹慎程度。」
對於羅賓森的批評，OpenAI 發言人在聲明中表示：「我們確保模型的能力不會超出我們能夠安全管理與防護的範圍；當有必要放慢腳步時，我們會暫停訓練或延後發布模型。」
羅賓森也警告，AI 的能力進步速度已超越研究人員對「對齊」（alignment）的理解。對齊是指確保 AI 系統的行為符合人類目標與價值觀的研究領域。
