面對人工智慧 (AI) 技術的突飛猛進，聯合國秘書長古特雷斯 (António Guterres) 在本周於日內瓦召開的首屆「人工智慧治理全球對話」中發出緊急呼籲，要求實施全面性的全球管控，以防範 AI 引發「災難性危害」。
古特雷斯指出，AI 的發展速度已大幅超越科學界的理解與政府的適應能力。他特別提出警告，原本為民用設計的強大 AI 晶片正逐漸進入戰場，使「殺手機器人」成為常態。
此外，獨立科學小組的報告顯示，尖端 AI 模型已具備欺騙人類的能力，且目前仍缺乏可靠方法來維持對高度自主系統的控制。
峰會強調，AI 治理必須以人權為核心，堅持「機器提供資訊，人類做出決定並承擔責任」的原則。
針對日益嚴重的深度偽造 (Deepfakes) 問題——其中 99% 涉及性暗示內容且多針對女性——古特雷斯促請各國通過《人工智慧兒童安全承諾》。該承諾要求開發商在未經安全測試前不得部署供兒童訪問的系統，並對生成兒童性虐待圖像採取零容忍政策。
為防止「AI 鴻溝」深化為發展與安全差距，聯合國正推動「人工智慧能力建設全球網絡」，協助發展中國家獲取技術。同時，古特雷斯要求主要 AI 公司必須披露其系統的生態足跡 (包含碳、水、土地)，並承諾在 2030 年前實現所有數據中心由可再生能源供電，以應對其巨大的電力與水資源消耗。
與此同時，聯合國數位和新興技術特使 Amandeep Singh Gill 強調：「人工智慧的影響如此深遠，不應由少數人左右。我們需要一場全球性的、包容性的、以證據為基礎的對話。」
人工智慧獨立國際科學小組聯合主席 Yoshua Bengio 強調，目前沒有任何跡象顯示這項技術的發展速度會放緩。他補充說：「一些令人高度擔憂的測試還表明，前沿人工智慧模型能夠欺騙人類，讓他們意識到自己正在接受測試。」他預測，人工智慧的智慧水準將繼續增長。
本次峰會為全球 AI 治理指明了方向，第二次對話會預計將於 2027 年 5 月在紐約舉行。
