OpenAI公布青少年ChatGPT使用報告!安全防護遭獨立測試打問號

OpenAI公布青少年ChatGPT使用報告!安全防護遭獨立測試打問號(圖:REUTERS/TPG)
OpenAI公布青少年ChatGPT使用報告!安全防護遭獨立測試打問號(圖:REUTERS/TPG)

OpenAI周三(7日)發布首份青少年使用報告,表示青少年平均每天使用ChatGPT不到15分鐘,連續聊天超過三小時的比例低於2%。在AI聊天機器人對未成年人的心理健康與成長影響受到關注之際,公司希望透過數據說明使用管理措施的成效,但另一份獨立測試報告則質疑,ChatGPT青少年版本的家長警示機制未能及時發揮作用。

據《路透》報導,OpenAI表示,在出現休息提醒的青少年對話中,近半數使用者於五分鐘內暫停或結束聊天。能使用青少年專屬版本的用戶,也傳送更多教育相關訊息,並使用學習視覺化工具與Study Mode學習模式。

青少年版本強化學習功能 使用管理成效受檢視

OpenAI自8月起陸續推出ChatGPT for Teens,系統會依據年齡資料,或判斷使用者可能未滿18歲時,自動啟用青少年模式,提供家長控制功能,並限制敏感議題的對話。

公司也正規劃新增大學申請工具,協助學生整理申請條件、截止日期與助學金申請步驟,另將加入學習卡片及更方便製作測驗的功能,擴大ChatGPT在學習上的用途。

隨著AI平台快速普及,外界愈來愈關注這些工具對青少年心理健康與成長安全的影響。社群媒體對年輕用戶的傷害研究,也加深了相關疑慮。

Meta(META-US)今年8月同意支付最高180億美元,並限制青少年使用Facebook與Instagram,以和解外界指控其刻意將平台設計成讓兒童成癮的訴訟,凸顯科技業面臨的未成年人保護壓力。

獨立測試質疑警示延誤 OpenAI稱控制功能可能尚未啟用

非營利組織Common Sense Media周三發布報告指出,當青少年帳號談及自殺、自傷或飲食失調時,ChatGPT for Teens經常延遲通知家長,甚至完全沒有發出警示。

這項研究使用十多個專為測試建立的帳號,也發現聊天機器人未能穩定地建議使用者聯絡危機求助專線,或尋求專業協助。

OpenAI發言人回應,測試並未「準確反映」ChatGPT青少年防護機制的運作方式。公司表示,基於安全與服務規模等因素,家長與青少年帳號完成連結,以及安全警示功能正式啟用,可能需要數小時。

發言人指出:「他們大部分測試可能在家長控制功能尚未完成啟用前,就已開始並結束。」

Common Sense Media則表示,部分測試帳號確實未連結足夠時間,但另一些帳號已等待足夠久,仍沒有任何帳號及時發出警示。該組織指出,只有累積數周敏感議題對話紀錄的帳號,最後才收到通知。


延伸閱讀

相關貼文

prev icon
next icon