華爾街日報》TikTok如何將「毒」與「色」推送給未成年人

2021-09-10 11:31

? 人氣

該公司表示,用戶每分鐘上傳數以萬計的影片。

[啟動LINE推播] 每日重大新聞通知

前高管們說,為了跟上速度,管理員們專注於最受歡迎的內容,瀏覽量較低的影片基本沒人管。

(華爾街日報)
 
(華爾街日報)
 

TikTok曾於7月表示,在美國,將開始依靠演算法來識別並刪除某些類型的違規影片,從而使其規則得到更快的執行。以前,TikTok用演算法識別出違規影片,但在刪除前要進行人工審查。

《華爾街日報》分享了TikTok向其機器人帳號推送的數百個涉嫌違規內容的例證後,TikTok宣布了上述決定。TikTok表示,過去一年一直在試驗這個新系統。

TikTok發言人說,由於理解一個影片,特別是關於毒品的影片需要大量的背景,因此沒有任何演算法能夠完全準確地審查內容。

TikTok也難以杜絕那些宣揚不正常飲食的影片。

(華爾街日報)
(華爾街日報)

據幾位前高管和內容管理員稱,由於該公司近年來決定放鬆在美國的一些限制,包括有關著裝暴露和比基尼的限制,現在內容監管變得更加複雜。

這些人說,其結果是該平台上出現了更多涉性影片。

TikTok發言人說,該公司的政策是應行業規範和用戶行為變化而發展的。她還說,隨著TikTok的受眾年齡段上升、更趨多樣化,該公司期望有新的和不同的內容。

那個以青少年身份註冊、跌入角色扮演和其他色情內容深坑的機器人帳戶又該怎麼辦?

(華爾街日報)
 
(華爾街日報)
 

研究方法

在幾個月的時間裡,《華爾街日報》創建了100多個TikTok帳號。這些帳號在幾乎沒有人工干預的情況下瀏覽該應用裡的內容,其中有31個帳號註冊的年齡資訊為13至15歲。《華爾街日報》還創建了軟體來引導這些帳號並分析它們的行為。這些帳號被分配了一個出生日期和一個IP地址。

大多數帳號都被賦予了特定興趣,這些興趣由關鍵字詞和機器學習的圖像分類組成。如果一個影片與其興趣相符,那麼該帳號就會停留在該影片上;否則,該帳號就會迅速轉到下一個影片。

《華爾街日報》收集了影片、縮略圖、描述文本和與每個影片相關的元數據,並創建了內部分析工具來幫助篩選結果。最後,這些帳號共觀看了近40萬個影片,其中設定為13-15歲的用戶帳號觀看了大概10萬個影片。

決策者的最佳夥伴

立即訂閱,即刻暢讀華爾街日報全文內容

並享有更佳的閱讀體驗

訂閱 每天只要10.9元 查看訂閱方案
關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章