大選前防AI造假 ChatGPT擋下逾25萬候選人生成影像

據外媒報導，OpenAI 周五 (8 日) 在一篇部落格文章中表示，在 2024 年美國總統選舉日前一個月，ChatGPT 估計拒絕了超過 25 萬個生成總統候選人影像的請求。

OpenAI 表示，這些被拒絕的請求涉及總統當選人川普 (Donald Trump)、現任副總統賀錦麗(Kamala Harris)、現任總統拜登(Joe Biden)、明尼蘇達州州長華茲(Tim Walz) 以及副總統當選人范斯(JD Vance)。

生成式人工智慧 (AI) 的崛起，引發了人們對利用該技術製造的錯誤資訊可能影響 2024 年全球各地多場選舉的擔憂。

根據機器學習公司 Clarity 數據，深偽 (deepfake) 數量與去年相比增加了 900%。美國情報官員表示，其中一些深偽影片是由俄羅斯方面製作或資助，意圖干預美國選舉。

在 10 月一份長達 54 頁的報告中，OpenAI 表示，該公司已阻斷了「來自全球 20 多個嘗試利用我們的模型進行欺騙操作的網絡」。這些威脅包括人工智慧生成的網站文章和假帳號發布的社交媒體貼文等，但報告指出，沒有任何與選舉相關的操作成功引發「病毒式傳播」。

OpenAI 在周五的部落格文章中表示，尚未發現任何證據顯示，針對影響美國選舉結果的隱蔽操作能成功引發病毒式傳播或建立「穩定的受眾」。

該公司表示將繼續監控 ChatGPT 以確保回覆準確且符合道德。OpenAI 今年對拜登政府制定有關國家安全和人工智慧技術的政策規劃表示讚賞。

在生成式人工智慧的時代，立法者特別擔心錯誤資訊的影響。該技術自 2022 年末隨 ChatGPT 推出後迅速興起，但大型語言模型仍在新興階段，且經常產出不準確或不可靠的資訊。

Center for Democracy & Technology 執行長 Alexandra Reeve Givens 表示，「選民絕對不應該依賴 AI 聊天機器人來獲取關於投票或選舉的資訊，在準確性和完整性方面存在太多的顧慮了。」