這個帳號是《華爾街日報》（The Wall Street Journal）創建的幾十個自動帳號或機器人帳號之一，目的是了解TikTok向年輕用戶展示的內容。這些機器人帳號註冊為13歲至15歲的用戶，它們可以隨意瀏覽TikTok的For You影片流，這種高度個性化的影片流由演算法生成，內容堪稱無窮無盡。
對提供給這些帳號的影片進行分析後發現，通過強大的演算法，TikTok可以迅速將未成年人帶入有關性和毒品的內容無底洞中。未成年人是該應用最大的用戶群之一。
本文為風傳媒與華爾街日報正式合作授權轉載。欲看更多華爾街日報全文報導，請訂閱特別版華爾街日報VVIP方案，本方案僅風傳媒讀者專屬，以低於原價3折以下之全球最優惠價，即可無限暢讀中英日文全版本之華爾街日報全部內容。
TikTok向一個註冊為13歲少年的帳號推送了至少569個關於毒品使用的影片——涉及可卡因和冰毒（甲基安非他命）成癮，以及線上銷售毒品和用具的推廣影片。成百上千個類似的影片也出現在《華爾街日報》註冊的其他未成年帳號的影片流中。
TikTok還向《華爾街日報》註冊的青少年帳號展示了100多則來自付費色情網站和性用品商店推廣帳號的影片。還有成千上萬條內容來自那些將其內容標註為僅供成人觀看的創作者。
還有一些影片鼓吹不正常飲食，美化酒精，包含對酒後駕車和飲酒遊戲的描述。
《華爾街日報》向TikTok分享了該平台提供給其未成年人帳號的974個影片樣本，包括數百個快速連續展示給單個帳號的影片，內容涉及毒品、色情和其他成人內容。
其中有169個影片在《華爾街日報》與TikTok分享之前被從該平台刪除——無法確定是創作者還是TikTok所為。另外255個影片在分享後被刪除，其中十多個影片中，扮演成「看護者」的成人與假裝成兒童的人勾搭，並稱後者為「小傢伙」。
該角色扮演影片中的女子表示，她希望TikTok在阻止未成年人觀看成人內容方面做得更好。
「我的簡介中確實寫明適合18歲以上用戶觀看，但我沒有切實可行的辦法來管理誰可以看，」她在一條資訊中寫道。「我不同意TikTok把我的內容展示給年幼的人。」
TikTok一位發言人針對個別影片內容不予置評，但表示，大多數影片沒有違反指導原則。該發言人稱，TikTok刪除了《華爾街日報》的帳號看過的一些影片，並限制了其他影片的傳播，以阻止該應用向其他用戶推薦這些影片，但未予透露具體數量。
這位發言人稱，該應用對提供給成人和未成年人的影片未做區分。但她表示，該平台正尋求創建一個工具，為年輕用戶過濾內容。
TikTok的服務條款規定，至少年滿13歲才能註冊為該平台用戶，並且18歲以下的用戶需要徵得各自父母的同意。
這位發言人在聲明中表示：「保護未成年人至關重要，TikTok已經採取了行業領先的措施，為青少年提供安全和適齡的體驗。」她指出，TikTok允許父母來管理他們子女帳號的使用時間和私隱設置。
讓人上癮的應用
《華爾街日報》早些時候進行的一項影片調查發現，TikTok只需利用一個重要的資訊就能分析出用戶喜好：即用戶在觀看一段內容時停留的時長。用戶每次停下來觀看或反覆瀏覽某一內容，TikTok就會記錄下來。
觀看時長是非常強大的訊息，TikTok可以透過這一點了解用戶最隱秘的興趣和情緒，並誘導任何年齡段的用戶更深地沉浸在這些內容之中，推送給用戶的內容在極大程度上被特定主題或題材的影片所佔據。YouTube等其他社交媒體公司已在努力停手不向用戶提供這種體驗。
前YouTube工程師紀堯姆·卡斯洛（Guillaume Chaslot）說：「我們在YouTube上已看到的所有問題都來源於針對用戶參與程度的演算法，而TikTok的問題一模一樣，但情況更糟。」他指出：「TikTok演算法的學習速度要快得多。」 卡斯洛之前在YouTube從事演算法相關工作，他現在是一名倡導演算法使用透明度的活動人士，認為應讓公眾了解各公司是如何使用這些演算法工具的。
《華爾街日報》為所創建的31個未成年帳號都分配了出生日期和IP地址。大多數帳號還被設定成有不同的興趣愛好；這些興趣只通過停留在帶有相關標籤或圖像的影片上，以及快速跳過其他影片的方式被透露給TikTok。大多數帳號並不搜索內容，僅僅只是觀看出現在他們資訊流中的影片。
以下是這種做法的原理：
上述推廣「420 friendly」的創作者沒有回覆關於該影片被展示給一個註冊年齡為13歲的帳戶的問題。
在《華爾街日報》創建的31個未成年帳戶中，約有十幾個帳戶的影片流最終被一個特定的主題所佔據。
為兒童提供心理健康護理的非營利組織Child Mind Institute的臨床心理學家大衛·安德森（David Anderson）稱，這對年輕人來說可能尤其成問題，他們可能做不到停止觀看，也沒有成年人在身邊幫助他們。
安德森稱，這些青少年可能會經歷一場「完美風暴」：社交媒體會使他們對毒品等話題變得習以為常，並影響他們對這些話題的看法。
即使《華爾街日報》創建的帳戶被設定為對多個主題感興趣，TikTok有時也會聚焦單個主題，併為這些帳戶接連推送數以百個涉及單一主題的影片。
有一個帳號選擇了多個興趣類別，TikTok給它推送了數以百計的日本電影和電視卡通片。在一個150段影片的串流影片中，除了四個之外其他都是日本動畫片——其中許多都是性主題的。
TikTok發言人說，《華爾街日報》的機器人「完全不能代表真人的行為和觀看體驗」，部分原因是人類的興趣多樣化且在不斷變化。她補充說，該平台正在 「評估如何幫助防止哪怕是非常不尋常的觀看習慣所產生負面循環，特別是對於較為年輕的用戶。」
該發言人說，當用戶遇到他們不想看的內容時，他們可以選擇「不感興趣」，以便減少這些內容出現的頻率。
後來，數十個宣傳付費色情內容的影片被從該應用程式中刪除。
在某些情況下，TikTok的創作者明確表示不希望兒童觀看他們的影片，將這些影片（或自己的帳號）標為僅供成年人觀看。但不管怎樣，TikTok還是推送了這些影片。
在一個200段影片的影片流中，近40%的影片被標註為僅供成人觀看。
總體算來，至少有2,800條此類被標註為僅供成人觀看的影片被推送給《華爾街日報》創建的未成年人帳號。
色情內容的泛濫已在TikTok內部引起關注。據一位了解2020年秋季的一個內部會議的人士稱，由於引導用戶前往OnlyFans的影片如此之多，以至於TikTok首席營運官瓦內薩·帕帕斯（Vanessa Pappas）在該次會議上要求員工說明OnlyFans到底是什麼網站。
知情人士稱，由於員工認為OnlyFans上的許多內容是色情的，這場會議結束後，TikTok起初決定封禁那些把用戶引向OnlyFans的內容。但當其他員工指出OnlyFans上的內容並非都是限制級，而且其他社交媒體平台也允許連結到這些內容後，TikTok又決定允許用戶連結到OnlyFans。
TikTok發言人表示，TikTok禁止傳播裸體和性誘惑的內容，會刪除那些把用戶引導到包括OnlyFans上的性內容或服務的帳號。
OnlyFans的一位發言人說，該網站嚴格規定只為18歲及以上的人提供服務。對於TikTok帳號把用戶引向該網站的事情，該發言人不予置評。
監督管理
據數位TikTok前高管稱，TikTok依靠演算法和1萬多人的團隊來管理其龐大且不斷增長的內容量。
該公司在最近的一份報告中說，去年下半年已刪除8,900萬個影片。
但前高管們表示，很難跟上該應用的增長速度。TikTok目前在美國擁有約1億用戶在該平台上觀看和製作影片，而2019年的數量約為2,500萬。
該公司表示，用戶每分鐘上傳數以萬計的影片。
前高管們說，為了跟上速度，管理員們專注於最受歡迎的內容，瀏覽量較低的影片基本沒人管。
TikTok曾於7月表示，在美國，將開始依靠演算法來識別並刪除某些類型的違規影片，從而使其規則得到更快的執行。以前，TikTok用演算法識別出違規影片，但在刪除前要進行人工審查。
《華爾街日報》分享了TikTok向其機器人帳號推送的數百個涉嫌違規內容的例證後，TikTok宣布了上述決定。TikTok表示，過去一年一直在試驗這個新系統。
TikTok發言人說，由於理解一個影片，特別是關於毒品的影片需要大量的背景，因此沒有任何演算法能夠完全準確地審查內容。
TikTok也難以杜絕那些宣揚不正常飲食的影片。
據幾位前高管和內容管理員稱，由於該公司近年來決定放鬆在美國的一些限制，包括有關著裝暴露和比基尼的限制，現在內容監管變得更加複雜。
這些人說，其結果是該平台上出現了更多涉性影片。
TikTok發言人說，該公司的政策是應行業規範和用戶行為變化而發展的。她還說，隨著TikTok的受眾年齡段上升、更趨多樣化，該公司期望有新的和不同的內容。
那個以青少年身份註冊、跌入角色扮演和其他色情內容深坑的機器人帳戶又該怎麼辦？
研究方法
在幾個月的時間裡，《華爾街日報》創建了100多個TikTok帳號。這些帳號在幾乎沒有人工干預的情況下瀏覽該應用裡的內容，其中有31個帳號註冊的年齡資訊為13至15歲。《華爾街日報》還創建了軟體來引導這些帳號並分析它們的行為。這些帳號被分配了一個出生日期和一個IP地址。
大多數帳號都被賦予了特定興趣，這些興趣由關鍵字詞和機器學習的圖像分類組成。如果一個影片與其興趣相符，那麼該帳號就會停留在該影片上；否則，該帳號就會迅速轉到下一個影片。
《華爾街日報》收集了影片、縮略圖、描述文本和與每個影片相關的元數據，並創建了內部分析工具來幫助篩選結果。最後，這些帳號共觀看了近40萬個影片，其中設定為13-15歲的用戶帳號觀看了大概10萬個影片。
