TikTok表示,為了確保全球社群用戶都能自在地享受娛樂,將謹守當責承諾、致力提供健康、安全的創作環境。其中,隨著全球網路安全日 (Safer Internet Day)的到來,TikTok近期推出安全政策更新,分享如何處置打擊重複違規用戶,以及用戶如何透過透明化影片推薦機制,並且透過強化安全內容分級確保健全的使用體驗。
安全政策更新一:最新帳號處置系統,打擊重複違規用戶
根據統計,近 9 成重複違規用戶會重複使用同種功能,逾 7 成 5 用戶不斷違反同類別的政策。為解決此問題,TikTok 決定更新帳號處置系統以移除創作者社群內的重複違規用戶,為社群帶來更良好的使用體驗。
帳號處置系統更新後,若有特定用戶發佈違反《社群自律公約》的內容,我們將移除該影片並禁用帳號。如果該帳號因為濫用如評論、LIVE 等功能,或是違反如霸凌與騷擾政策而超越處置門檻,其帳號將被永久禁用。
處置門檻會依照違規對社群成員造成的威脅而定,舉例而言,相較分享低風險的垃圾訊息,違反仇恨意識形態將會設有更嚴格的門檻。若是嚴重違規行為,如宣揚暴力、兒童性虐待內容(CSAM)、真實暴力與血腥畫面,即便只是初犯,我們也會永久禁用該帳號。社群將在此系統上線時收到相關通知。
安全政策更新二:解密影片推薦機制,致力提升透明度
TikTok 依據多種用戶的使用偏好,如搜尋結果、用戶不感興趣的內容等指標來打造影片推薦機制。用戶只要「分享」影片,點擊「出現這部影片的原因」,就能輕鬆了解 TikTok 為何會推薦這部影片。用戶可能在推薦內容看到特定影片的原因包含:「曾有互動,如按讚、留言、分享、搜尋的內容」、「追蹤或推薦的帳號」、「近期在您所在區域發佈的內容」、「區域內的熱門內容」。
TikTok 透過多種方式提升平台透明度,除這項更新外,《社群自律公約》說明為何特定影片內容不會受到推薦,而在這之前推出的個人化內容工具、相關教育資源,皆是幫助社群理解推薦機制、探索創意內容的重要指引。
TikTok 公開影片推薦機制,從應用程式設定即可了解推薦原因。
安全政策更新三:強化內容分級,守護用戶安全
TikTok 也致力打造更安全、適齡的內容,針對裸露、色情或露骨的情色內容建立嚴格限制,並與逾 4 萬名專家合作,打造與執行相關政策,持續建構相關技術,幫助 TikTok 大規模偵測、移除違規內容。
TikTok 持續建立與執行《社群自律公約》,限制性暗示、色情裸露、和成人內容被推薦給 13 至 17 歲的青少年用戶。TikTok 也於 2022 年引入「內容分級」功能,避免青少年用戶接觸成人內容。在過去的 30 天內,逾百萬違規內容已被下架,為青少年的使用樹立安全標竿。
過去一年內,TikTok 也不斷改良機器學習的模型,盼能強化偵測性剝削、性暗示等違規或處於模糊地帶的內容、透過快速且大規模的偵測移除相關內容。TikTok 未來將持續強化偵測違規邊緣內容的模型,為青少年用戶創造更符合年齡的使用環境。
TikTok 近期更於美國攜手性私密防禦組織 StopNCII.org,盼能阻止未經同意的私密影像散布,為受害者提供更多資源,並強化 TikTok 偵測違規內容的能力。