WEF報告：AI驅動的錯誤資訊是全球最大短期威脅

世界經濟論壇 (WEF) 周三 (10 日) 發表報告表示，虛假和誤導性資訊充斥著尖端人工智慧 (AI)，有可能侵蝕民主並使社會兩極化，這是全球經濟面臨的首要直接風險。

WEF 在最新的《全球風險報告》中也表示，從長遠來看，一系列環境風險構成最大的威脅。該報告是在瑞士滑雪勝地達沃斯舉行年度執行長和世界領導人精英聚會之前發布的。該報告對近 1500 名專家、行業領袖和政策制訂者進行調查。

該報告將錯誤訊息和虛假資訊列為未來兩年​​最嚴重的風險，強調科技的快速進步也會帶來新問題或使現有問題變得更糟。

報告作者擔心，像 ChatGPT 這樣的生成式 AI 聊天機器人的蓬勃發展，意味著創造可用於操縱人群的複雜合成內容將不再局限於那些擁有專業技能的人。

AI 將成為下周達沃斯會議的熱門話題，預計出席會議的科技公司老闆包括 OpenAI 執行長奧特曼 (Sam Altman)、微軟 (MSFT-US) 執行長納德拉 (Satya Nadella) 以及 Meta (META-US) 首席 AI 科學家里群 (Yann LeCun) 等 AI 產業參與者。

報告指出，隨著包括美國、英國、印尼、印度、墨西哥和巴基斯坦等大型經濟體在內的許多國家的數十億人即將參加今年和明年的選舉，AI 驅動的錯誤訊息和虛假訊息正在成為一種風險。

達信風險管理負責人克林特 (Carolina Klint) 表示：「你可以利用 AI 進行深偽造假，並真正影響大型群體，這確實會引發錯誤訊息。」達信母公司 Marsh McLennan 與蘇黎世保險集團 (Zurich Insurance Group) 共同撰寫了這份報告。

她說，「社會可能會變得更加兩極化」，因為人們發現核實事實變得更加困難。虛假訊息也可能被用來引發對民選政府合法性的質疑，「這意味著民主進程可能會受到侵蝕，而且還會推動社會兩極化進一步加劇。」

她說，AI 的興起帶來許多其他風險。它可以讓「惡意行為者」更容易進行網路攻擊，例如自動進行網路釣魚嘗試或建立進階惡意軟體。

克林特說，有了 AI，「你不需要擁有最鋒利的工具就可以成為為非作歹。」

她說，它甚至可能毒害從互聯網上抓取的用於訓練其他 AI 系統的數據，這「極其難以逆轉」，並可能導致 AI 模型進一步嵌入偏見。

風險調查受訪者全球關注的另一個重大議題是氣候變遷。

繼假訊息和錯誤訊息之後，極端天氣是第二大的短期風險。

從 10 年的長期時限來看，極端天氣被描述為第一大威脅，其次是其他四種與環境相關的風險：地球系統的重大變化；生物多樣性喪失和生態系統崩潰；還有自然資源短缺。

克林特說，隨著地球系統經歷長期變化，未來十年「我們可能會被推過不可逆轉的氣候變遷臨界點」。