當AI生成內容大量進入社群平台，如何辨識來源、處理垃圾內容，已成為數位治理的重要課題。TikTok今（30）日公布安全政策更新，宣布將於未來幾週測試升級版AI垃圾內容偵測系統，鎖定發布相關內容的帳號，特別關注政治時事、理財建議與醫療等涉及公眾信任的議題。TikTok表示，全球累計已有逾30億部影片加上AI生成內容標示，今年第一季則移除逾8,600萬個虛假帳號。
台灣主動移除率98.5%，另公布詐騙廣告處理數據
TikTok亦指出，台灣地區主動移除率達98.5%。不過， TikTok並未進一步交代該指標的統計期間、涵蓋內容與計算分母，所以尚無法據此判斷特定類型內容的攔阻成效。
針對詐騙廣告，TikTok表示，2025年第四季至2026年第一季，依相關機關通報、經審核後移除45,063則詐騙廣告，並針對784個廣告主進行相關處分。這組數據屬於通報後的審核處理結果，與主動移除率是不同指標，也不能直接視為此次新AI偵測系統的成果。
TikTok指出，平台透過主動偵測、防護機制、用戶舉報、廣告投放規範與AI生成內容標籤，降低詐騙內容觸及。新版《社群自律公約》也已於9月24日生效，採用更清楚的語言與條款結構，協助創作者及使用者理解平台規範。
在地教育方面，TikTok持續推動「社群素養宇宙」線上活動，與事實查核單位MyGoPen及創作者合作，分享資訊查證方法；另與iWIN網路內容防護機構及創作者合作，協助青少年與家長使用平台安全功能，將內容治理延伸至資訊辨識與使用習慣。
新系統將測試，聚焦政治、理財與醫療AI垃圾內容
此次全球措施的重點之一，是升級帳號層級的垃圾內容偵測。TikTok表示，AI可能被用於大量製造垃圾內容，擠壓原創創作者的空間，因此將在未來幾週測試升級版系統，針對發布AI生成垃圾內容與農場文的帳號進行處理，尤其關注可能影響公眾信任或社會福祉的主題。
TikTok公布，今年1至3月已在全球移除逾8,600萬個虛假帳號。不過，這是既有帳號治理的移除數據，並未指出其中有多少涉及AI生成垃圾內容，也不是尚待測試的新系統所產生的成果。
至於新系統的測試地區、是否涵蓋台灣及繁體中文、判定標準與全面上線時程等，TikTok也未有公布。未來如何辨識大量製造的垃圾內容，並處理可能發生的誤判與申訴，將是觀察這項措施的重點。
全球逾30億部影片加上AI標示，來源揭露與違規判定分開看
在內容透明度方面，TikTok表示，平台結合C2PA內容憑證、創作者標示工具與隱形浮水印技術，已為全球逾30億部影片加上AI生成內容標示，並於今年加入C2PA指導委員會，參與推動內容透明度標準。
這項標示的作用，在於提供AI生成來源資訊。已標示影片的數量不能解讀為垃圾內容或不實資訊的數量，也不代表這些影片已被移除；內容是否違反平台規範，仍是另一項判定。
TikTok也正在測試「管理主題」（Manage Topics）功能，讓使用者調整想看到的AI生成內容數量，將治理措施從平台偵測與來源標示，延伸至使用者對內容接觸量的選擇。
AI素養教育累計投入逾400萬美元，觀看量逾2億次
除了技術偵測與內容標示，TikTok表示，全球AI素養教育計畫累計投入已超過400萬美元，約新台幣1.27億元。此金額屬於截至公告時的累計投入，並非此次新增預算，也不是台灣市場的投入額；新台幣金額以9月30日臺灣銀行美元即期買賣匯率中間值、每美元31.81元概算。
教育資源包括與NAMLE及Henry Ajder合作推出的指南，協助使用者負責任地運用AI工具，以及App內的教育專區，讓使用者搜尋AI相關詞彙時，能取得辨識AI生成內容的實用技巧。
依TikTok公告，計畫自2025年11月啟動，NoFiltr、Raspberry Pi Foundation等專家機構參與推廣的相關內容，累計已超過2億次觀看，平台並表示將持續投入資源。 （相關報導： TikTok與阿拉巴馬州和解：支付一億美元，限兒童使用時長、禁用美妝濾鏡 ｜ 更多文章 ）
從帳號偵測、內容來源標示，到使用者教育，TikTok此次更新涵蓋AI內容治理的不同環節。不過，標示量、帳號移除量與教育內容觀看量，各自反映不同面向；新系統能否有效降低AI垃圾內容觸及，以及教育資源是否提升使用者辨識能力，仍有待後續測試與成效資料說明。
