這起訴訟指出,許多未成年用戶為了避開不良或潛在有害內容,主動開啟了平台設計的「演算法重置」(Algo Refresh)等安全機制,但 TikTok 卻將部分用戶編入安慰劑對照組,使其動態消息完全沒有改變,用戶卻誤以為該功能已經生效。
訴訟指控,TikTok 內部一名數位健康產品經理曾提出質疑,認為這項功能旨在提升演算法透明度與控制權,進行安慰劑測試與此目的完全衝突且可能誤導大眾。然而,TikTok 仍在2023年對數千名用戶反覆進行測試,藉此分析用戶停留時間與廣告收益的變化。
針對指控,TikTok 發言人回應表示,公司持續改進平台,與多數企業一樣會定期測試新功能,以驗證實際運作體驗。TikTok 在法庭文件中全面否認紐約州的指控,強調始終將年輕用戶的安全列為首要考量。
此外,解密文件還揭露 TikTok 曾隨機關閉部分用戶的安全防護以進行測試,據彭博(Bloomberg)報導,紐約一名參與該測試的青少年在被大量推送自殘與自殺內容後不幸身亡。