該公司表示,用戶每分鐘上傳數以萬計的影片。
前高管們說,為了跟上速度,管理員們專注於最受歡迎的內容,瀏覽量較低的影片基本沒人管。
TikTok曾於7月表示,在美國,將開始依靠演算法來識別並刪除某些類型的違規影片,從而使其規則得到更快的執行。以前,TikTok用演算法識別出違規影片,但在刪除前要進行人工審查。
《華爾街日報》分享了TikTok向其機器人帳號推送的數百個涉嫌違規內容的例證後,TikTok宣布了上述決定。TikTok表示,過去一年一直在試驗這個新系統。
TikTok發言人說,由於理解一個影片,特別是關於毒品的影片需要大量的背景,因此沒有任何演算法能夠完全準確地審查內容。
TikTok也難以杜絕那些宣揚不正常飲食的影片。
據幾位前高管和內容管理員稱,由於該公司近年來決定放鬆在美國的一些限制,包括有關著裝暴露和比基尼的限制,現在內容監管變得更加複雜。
這些人說,其結果是該平台上出現了更多涉性影片。
TikTok發言人說,該公司的政策是應行業規範和用戶行為變化而發展的。她還說,隨著TikTok的受眾年齡段上升、更趨多樣化,該公司期望有新的和不同的內容。
那個以青少年身份註冊、跌入角色扮演和其他色情內容深坑的機器人帳戶又該怎麼辦?
研究方法
在幾個月的時間裡,《華爾街日報》創建了100多個TikTok帳號。這些帳號在幾乎沒有人工干預的情況下瀏覽該應用裡的內容,其中有31個帳號註冊的年齡資訊為13至15歲。《華爾街日報》還創建了軟體來引導這些帳號並分析它們的行為。這些帳號被分配了一個出生日期和一個IP地址。
大多數帳號都被賦予了特定興趣,這些興趣由關鍵字詞和機器學習的圖像分類組成。如果一個影片與其興趣相符,那麼該帳號就會停留在該影片上;否則,該帳號就會迅速轉到下一個影片。
《華爾街日報》收集了影片、縮略圖、描述文本和與每個影片相關的元數據,並創建了內部分析工具來幫助篩選結果。最後,這些帳號共觀看了近40萬個影片,其中設定為13-15歲的用戶帳號觀看了大概10萬個影片。