在人工智慧(AI)快速演進、風險討論升溫之際,OpenAI 宣布延攬競爭對手 Anthropic 的資深安全研究員 Dylan Scand,出任公司「應變準備主管」(Head of Preparedness),負責領導重大 AI 風險的預防與因應工作。該職位年薪最高可達 55.5 萬美元,另含股票獎酬。
根據《Business Insider》報導,OpenAI 執行長奧特曼(Sam Altman)周三(4 日)在社群平台 X 發文宣布這項人事消息,表示自己「非常興奮」能歡迎 Scand 加入團隊。
奧特曼指出:「事情很快就會加速,我們很快將與極其強大的模型共事。Scand 將領導我們準備並降低這些嚴重風險的工作,他是我見過最適合這個角色的人。」
根據 OpenAI 的說法,應變準備主管是一個高度吃重的角色,必須在高度不確定的情況下做出關鍵決策,並協調不同利害關係人對安全議題的立場。
公司也強調,該職位需要具備深厚的機器學習、AI 安全及相關風險領域專業,並能領導技術團隊處理高風險情境。
奧特曼上月曾形容這份工作「壓力極大」,並表示新任者將「幾乎立刻就要跳進深水區」。
Scand 也在 X 上回應這項任命,表示自己對在 Anthropic 的工作經歷與合作夥伴「深懷感激」。
他同時指出,AI 發展速度極快,雖然潛在效益巨大,但也伴隨「極端、甚至無法挽回的傷害風險」。
近年來,OpenAI 在 AI 安全議題上的作法持續引發討論。多名早期員工,包括前安全團隊負責人,已相繼離職,使外界更加關注公司在快速商業化與安全治理之間的平衡。
此外,OpenAI 也面臨多起訴訟,部分用戶指控其 AI 工具助長有害行為。
去年 10 月,OpenAI 更公開表示,部分 ChatGPT 用戶出現心理健康困擾的跡象,估計每週約有 56 萬名用戶呈現「可能的心理健康緊急狀態」。
對此,OpenAI 表示已諮詢心理健康專家,調整聊天機器人在偵測到心理壓力或不健康依賴時的回應方式。
