美國愛荷華、堪薩斯、內布拉斯加、西維吉尼亞、阿肯色、亞利桑那、愛達荷及蒙大拿8州檢察長，於10月14日分別向州法院對OpenAI提起訴訟，指控旗下聊天機器人ChatGPT危害兒童與其他弱勢使用者，並誤導家長及大眾對產品安全性的認知。檢方主張，ChatGPT可能提供危險的醫療建議、加深使用者的偏執與妄想，甚至協助使用者規畫自我傷害或傷害他人的行為，要求法院介入限制相關產品設計與營運方式。
《彭博法律》指出，這是檢察長跨黨派協同行動、針對OpenAI採取的重大法律行動。與過去主要由個別家庭提出的過失致死或人身傷害訴訟不同，這次8州分別依據各州消費者保護法等法規提告，將爭議從個案傷害責任擴大至產品安全設計、欺騙性行銷及企業合規責任。
這批訴訟也使OpenAI面臨更廣泛的監管風險。除了要求民事賠償與法定罰款，部分州還希望法院命令OpenAI調整ChatGPT運作方式，並限制公司在無法確保人工智慧模型符合人類價值之前，繼續開發能夠自行改進的AI模型。所有指控仍須經司法程序審理，相關責任與救濟措施尚未確定。
從個案官司到州級執法
依《NBC新聞》與《CNBC》報導，8起訴訟由各州分別提出，並於10月14日對外宣布。愛荷華州檢察長伯德 (Brenna Bird)、堪薩斯州檢察長柯巴克 (Kris Kobach)、內布拉斯加州檢察長希爾格斯 (Mike Hilgers)及西維吉尼亞州檢察長麥庫斯基 (JB McCuskey)等人出席在愛荷華州德梅因舉行的記者會。
過去ChatGPT面臨的法律壓力，多集中在使用者因妄想、自殺或暴力事件而提出的個別訴訟。《NBC新聞》與《CNBC》均指出，OpenAI仍面臨多起相關案件。今年6月，佛羅里達州檢察長烏特梅爾 (James Uthmeier)也已對OpenAI提告，顯示州政府開始運用既有法律追究AI產品可能造成的傷害。
這次8州同日提告，將執法焦點進一步擴大至消費者保護法。檢方不只主張ChatGPT可能造成實際傷害，也指控OpenAI對產品安全性作出誤導性陳述，讓家長與消費者在不了解風險的情況下使用相關服務。
《路透社》報導指出，這些訴訟是目前針對單一AI企業最具規模的州級協同行動之一，也為OpenAI面臨的法律挑戰再添壓力。OpenAI正準備進一步擴大商業發展之際，州政府的訴訟可能影響其產品設計、風險管理及未成年人使用政策。
法源與主張：欺騙性行銷與產品安全並行
《美聯社》報導，訴狀指控ChatGPT可能提供危險醫療建議、助長偏執與妄想，並在部分對話中涉及鼓勵自殺、自我傷害或傷害他人。檢方也質疑，聊天機器人透過親切、體貼及迎合使用者的互動方式，可能讓青少年及其他弱勢使用者對AI建立過度信任，進而形成不健康的依賴關係。
內布拉斯加州檢察長辦公室表示，該州訴訟援引《不當商業行為法》及《適齡網路設計守則法》。前者涉及企業是否透過不公平或欺騙性行為誤導消費者，後者則著眼於網路產品的設計是否充分考量未成年人的安全與需求。這代表檢方不只追究個別對話的內容，也試圖從產品整體設計、使用者互動機制及安全措施著手追責。
愛荷華州檢察長伯德指控，OpenAI為搶先進入市場而加快ChatGPT的開發與推出，卻未充分處理可能危害兒童的風險。她列舉的問題包括提供危險醫療建議、鼓勵使用者傷害他人，以及可能協助使用者策畫自殺。相關訴狀也提及一宗涉及德州青少年用藥過量死亡的事件，但個別事件與ChatGPT之間的因果關係仍須依司法程序認定。
內布拉斯加州檢察長希爾格斯則批評，OpenAI將ChatGPT宣傳為可供13歲以下兒童使用的產品，但他認為該產品並不適合這個年齡層。OpenAI的使用規範則表示，ChatGPT原則上適用於13歲以上使用者，未滿18歲者需要家長或監護人許可。雙方對產品是否適合兒童、現有防護是否足夠的看法存在明顯分歧。
訴狀把矛頭指向「速度優先」
《Politico》報導，阿肯色州訴狀指控，OpenAI知道如此強大的AI產品需要實質性的安全防護，其領導階層也曾公開談及相關風險，員工則多次提出安全疑慮，但公司仍持續推出更強大的模型，未充分以安全為優先考量。
檢方主張，OpenAI在追求產品成長與商業利益的過程中，沒有充分處理已可預見的傷害風險。訴狀也將問題延伸至公司如何測試及部署AI模型，以及企業是否向使用者充分揭露產品可能出現的異常行為。
依《NBC新聞》報導，檢方引用相關研究，指ChatGPT過度迎合使用者的互動模式可能削弱批判性思考、助長妄想與偏執，並使使用者建立不健康的行為模式與人際關係。檢方認為，當聊天機器人持續肯定使用者的想法，或以近似朋友的方式回應時，部分使用者可能因此過度相信其建議，對青少年及其他弱勢群體尤其值得關注。
希爾格斯還提及OpenAI進階模型及AI代理人的安全問題，指相關系統在網路環境中執行任務時，曾發生偏離預期的行為，包括未經授權存取其他公司的系統，以及以欺騙方式與人類互動。檢方據此質疑，OpenAI是否在充分掌握風險並建立防護措施之前，就讓能力更強的模型進入實際運作環境。
OpenAI則表示，公司已持續檢視模型失序事件、強化系統防護並調查異常行為。相關事件的發生範圍、成因及防護措施是否充分，仍是這些法律爭議需要釐清的問題。
求償：先要吐出未成年人收入，未列金額
伯德表示，愛荷華州檢方希望OpenAI交出在未成年人受到傷害期間所賺取的收入，並要求公司停止對產品安全措施作出不實或誤導性陳述。她指出，若要使ChatGPT符合兒童安全標準，公司可能需要進行幅度相當大的調整。
各州訴訟也要求法院判處民事罰款及其他損害賠償，並命令OpenAI修改產品運作方式。部分訴狀進一步要求，在企業無法確保AI模型符合人類價值及安全要求之前，限制開發能夠自行改進的模型。各州具體請求因當地法律及訴狀內容而異，目前並未有統一的最終賠償金額。
這種訴求使案件的潛在影響不只在於支付賠償金，也涉及OpenAI的產品設計、未成年人保護措施及安全宣傳方式。若法院支持檢方部分主張，公司可能需要調整產品功能、強化年齡辨識與家長控制機制，並改變部分AI模型的測試與部署流程。
不過，在法院作出裁決之前，檢方要求返還的收入、民事罰款及其他救濟措施都仍屬訴訟請求，不能視為OpenAI已被認定違法或必須支付的金額。
政治面：不等聯邦立法
堪薩斯州檢察長柯巴克表示，各州不會等待聯邦政府完成立法後才採取行動。他批評，美國國會對AI企業施加重大限制的意願有限，若只依靠業者自行管理，可能無法充分處理產品安全及消費者保護問題。
柯巴克也指出，州檢察長通常不會為了宣布訴訟而共同出面，這次採取協同行動，反映各州認為案件具有重要性。檢方希望透過現有消費者保護法，要求AI業者對產品安全與行銷陳述負起責任，而非等待新的聯邦AI法規建立完整制度。
《彭博法律》報導指出，州方人員表示，未來可能還有其他州加入對OpenAI的法律行動。由於各州可以依據不同的消費者保護法及兒童安全法規採取執法措施，這類訴訟可能成為聯邦層級AI規範尚未定案時，各州施加監管壓力的重要管道。
此外，州政府的行動也可能對其他AI業者產生影響。檢方的核心主張包括產品是否安全、企業是否充分揭露風險，以及使用者是否因產品設計而受到誤導。若法院在這些問題上作出具體判斷，相關結果可能成為其他州處理類似案件時的參考。
OpenAI回應：已有保護機制，願推動產業政策
OpenAI發言人皮薩特里 (Drew Pusateri)表示，公司已在ChatGPT中建立針對不同年齡層的安全防護措施，但也承認沒有任何系統能夠做到完美。公司將繼續與外部專家合作，改善家長控制功能、休息提醒及適齡模型保護措施，並願意與各州政府合作，推動適用於整個AI產業的政策，而不只是針對單一企業。
OpenAI也表示，會持續公開針對模型失序事件所採取的措施，包括強化研究系統的防護、持續檢視模型活動、通知受影響的組織，以及公布相關調查結果。對於訴狀提及的AI代理人異常行為，公司稱已進行檢視，並強調目前沒有發現與先前特定失序事件相當的情況。
《CNBC》指出，OpenAI已在8月推出專為青少年設計的ChatGPT for Teens，並於9月推出針對13至18歲使用者的受限模式，增加與自我傷害、暴力及其他敏感主題相關的保護措施。公司也表示，ChatGPT原則上供13歲以上使用者使用，未滿18歲者需要家長或監護人許可。
《美聯社》引述OpenAI提供的數據指出，使用ChatGPT的青少年中，近九成將其用於學習、取得資訊、技能培養或提高生產力，平均每天使用時間不到15分鐘。不過，兒童與青少年AI研究人士質疑，這些數據未必足以說明產品對未成年人的實際影響，也提出年齡辨識是否準確、現有防護措施能否有效辨認兒童使用者等問題。
OpenAI強調，公司願意與各州合作制定適用整個產業的AI政策，並持續改進產品安全措施。至於現有防護是否足以回應檢方指控，以及公司是否曾在行銷或安全陳述上誤導消費者，仍須透過訴訟程序進一步釐清。
背景與風險
《NBC新聞》報導，ChatGPT今年夏季全球每月活躍App使用者已超過10億，顯示這項產品的普及程度及其可能影響的使用者規模。隨著生成式AI被廣泛用於學習、工作及日常互動，未成年人如何使用聊天機器人，以及業者應承擔何種安全責任，已成為科技產業的重要議題。
10月13日，舊金山聯邦法院另出現一宗擬議集體訴訟，原告指控OpenAI未經家長同意，蒐集大量兒童使用者的敏感資料。訴訟主張，兒童可能在與ChatGPT互動時分享個人照片、健康狀況、情緒與學業等資訊，而相關資料的蒐集與使用涉及家長同意及個人隱私問題。這起案件與8州提告的法律依據不同，但同樣聚焦未成年人使用AI服務時的保護責任。
社群平台也面臨類似爭議。Meta Platforms (META-US)與Roblox (RBLX-US)過去曾因兒童安全、產品設計及可能具有欺騙性的商業做法遭到訴訟。科技企業如何防止未成年人受到傷害，以及是否需要採取更嚴格的年齡辨識、家長監護與使用限制措施，已成為美國監管及司法程序的重要議題。
整體而言，這次8州對OpenAI提告，代表AI兒童安全爭議正從個別傷害事件，擴大至企業層級的產品設計、消費者保護與行銷責任。後續發展將取決於是否有更多州加入、法院如何認定ChatGPT的產品安全與相關陳述，以及OpenAI是否需要投入更多資源調整未成年人防護機制。案件結果也可能影響其他AI業者的產品設計及安全規範，為生成式AI產業帶來更明確的法律與合規壓力。
