TikTok及其母公司字節跳動(ByteDance)遭紐約州檢察長Letitia James指控，曾在數千名使用者身上測試沒有實際作用的「幽靈」或「安慰劑」安全功能，其中包括青少年與兒童。紐約州指稱，這些使用者以為自己已啟用能降低有害內容曝光的安全工具，實際上卻被分配到無作用的版本，而TikTok利用這些測試觀察使用者停留時間及廣告營收等指標。
這些指控出現在紐約州針對TikTok提出、近期解除保密的修訂訴狀中。James最初於2024年對TikTok提起訴訟，後來在今年8月底提交修訂版本，法院之後下令公開部分內容。案件是全美超過20州及地方政府針對TikTok提出的眾多訴訟之一，核心指控包括TikTok刻意設計容易讓兒童及青少年沉迷的產品功能，以及對平台安全性作出誤導性陳述。
訴狀指出，TikTok在2023年多次進行所謂「ghost」或「placebo」實驗，選取數千名使用者，其中包括未成年人，讓部分使用者取得完整運作的安全功能，另一部分則取得外觀相同、實際不會改變內容推薦的版本。使用者在操作後會認為自己已經啟用相關保護措施，但實際上其推薦內容並未按照預期改變。
其中一項涉及的功能為「Algo Refresh」，設計目的在於讓使用者重新整理推薦內容，協助希望擺脫不想看到或可能有害內容的使用者改變影片推薦。紐約州指控，TikTok讓部分使用者相信這項功能已經重新設定推薦演算法，但實際效果可能只是暫時性的內容變化，甚至在部分測試中完全沒有發揮作用。
訴狀稱，TikTok並非單純測試產品是否正常運作，而是比較獲得完整功能及安慰劑版本的使用者，包括分析兩組使用者在平台上停留多久，以及對每日活躍使用者等核心指標和廣告營收可能造成的影響。
TikTok內部員工據稱曾對這類測試提出疑慮。一名負責數位健康產品的產品經理在內部聊天中表示，對「Algo Refresh」進行安慰劑測試存在問題，因為這項功能本身就是為了提升演算法透明度及使用者控制權，卻同時讓一部分使用者在不知情的情況下取得沒有實際作用的版本，兩者存在明顯矛盾。
紐約州進一步指控，TikTok對消費者宣稱平台安全是最高優先事項，並向兒童及青少年傳達平台適合使用，但另一方面卻透過產品測試及其他設計決策，限制部分使用者取得他們主動尋求的安全工具。
除了安慰劑測試之外，訴訟文件還揭露另一組性質不同的實驗。紐約州指控，TikTok曾隨機選取使用者並關閉帳戶中的部分安全防護措施，使他們更容易接觸到可能有害的內容。這項測試與「Algo Refresh」安慰劑實驗並非同一項測試，但兩者都被紐約州用來主張TikTok在追求平台使用數據時，曾將使用者安全置於較低優先順位。
訴狀所引用的案例中，一名紐約州未成年男孩據稱被納入這類安全防護測試。文件稱，TikTok內部檢視發現，該使用者曾持續接觸大量與自殺及自我傷害有關的內容。訴訟並指，這名少年最終自殺身亡。不過，相關因果關係屬紐約州提出的訴訟主張，並非法院已經認定的事實。
紐約州認為，這些實驗反映TikTok在產品設計上的核心矛盾，即一方面向家長及年輕使用者宣稱平台提供安全防護，另一方面卻可能在部分使用者身上取消或模擬安全功能，以取得有關使用者行為及平台營運的數據。
TikTok則否認紐約州的指控。公司發言人表示，TikTok會持續改善平台，並像其他企業一樣測試新的產品及功能，以驗證使用者體驗及了解功能在真實環境中的運作方式。TikTok也在法庭文件中廣泛否認紐約州提出的指控，並強調使用者安全一直是公司的優先事項。
這場訴訟也與TikTok龐大的美國業務利益有關。紐約州公開訴狀指出，TikTok在2023年美國營收達160億美元，創下當時紀錄；研究人員估計，TikTok約35%的美國廣告營收來自17歲以下的兒童及青少年。哈佛公共衛生學院一項研究則估計，TikTok在2022年從13至17歲美國使用者身上取得約20億美元廣告營收。
訴狀還指出，TikTok在美國的下載次數已超過2.2億次。紐約州因此主張，年輕使用者不只是平台重要的使用群體，也與其廣告商業模式存在重大關聯。
這起案件並非TikTok面臨的單一法律挑戰。全美已有超過20州對TikTok提起相關訴訟，指控平台透過產品設計讓兒童及青少年更容易沉迷，並對安全措施作出誤導性陳述。相關訴訟同時涉及社群平台是否刻意利用推薦演算法、通知及其他設計提高使用時間，以及平台是否充分保護未成年使用者免於接觸有害內容。
今年9月，TikTok與阿拉巴馬州達成全美首宗進入審判程序前的州級和解，TikTok同意支付最高3億美元，並調整平台對青少年使用者的功能及限制，包括強化年齡驗證等措施。這項和解也讓其他州針對TikTok的訴訟受到更多關注。
TikTok目前則持續強調其青少年安全措施。公司此前表示，青少年帳戶預設內建超過50項安全防護，例如16歲以下使用者無法使用私訊功能，未滿18歲使用者預設每日螢幕時間限制為60分鐘，且睡眠時間不會收到通知；TikTok也表示，每月會在全球移除約600萬個未成年帳戶。
不過，紐約州此次公開的訴訟文件將焦點從一般的內容審核及使用時間限制，進一步拉到平台是否曾在不告知使用者的情況下測試或關閉安全功能。若相關指控最終獲法院支持，可能使TikTok面臨更大的民事責任及平台設計調整壓力。
隨著各州針對社群平台傷害兒少的訴訟持續推進，TikTok、Meta Platforms(META-US)、Google旗下YouTube及Snap(SNAP-US)等平台都面臨不同形式的法律挑戰。這些案件的核心爭議已逐漸從單純的內容是否有害，延伸至企業是否透過推薦演算法、產品設計及安全功能配置，在明知可能造成風險的情況下仍優先追求使用者留存及廣告營收。
對TikTok而言，紐約州最新公開的訴訟內容尤其具有壓力，因為案件不僅質疑平台是否有效提供安全工具，更進一步質疑公司是否曾將兒童及青少年使用者納入沒有實際安全效果的產品實驗。最終法院是否採納這些指控，仍有待後續訴訟程序及證據審理結果。
