從「DeepSeek」（深度求索）到「豆包」，中國AI快速迭代發展，亦在近期被民眾發現有用戶在濫用AI創作淫穢製品並廣為傳播，此現象在中國快速引起廣泛討論。
中國中央廣播電視台近期亦發布公開調查，表示已經觀察到有很多人在公開販售AI口令，號稱可以僅憑一張圖片、甚至一些文字內容就可以讓用戶自己去生成讓自己滿意的大尺度照片、甚至影片。
在某短影片平台上，標題為「AI製作美女影片」、「全網最強大尺度」、「AI擦邊賽道日入5位數」等露骨影片層出不窮，還有免費的詳細教程影片教民眾如何這般使用AI「造黃」——央視稱，在這些影片裡，發布者會強調如何讓用戶巧妙規避審核。
在中國最大二手交易平台「閒魚」上，用暗語互相交流、販售類似「造黃口令」的賣家更不在少數，不到10元人民幣即可獲得詳細的教程。
根據多家中國媒體報導，有關記者在購入這些教程後發現即便價格低廉，下單後教用戶使用的手冊異常詳細。相關口令細致到對影片裡出現的人物角色發型、表情、動作姿勢甚至細致的幅度範圍都有詳細的刻畫要求。為了規避AI平台自帶的基礎審核，一些敏感詞還會被置換為英文。
這些被央視和其他中國媒體點名的AI服務商多達十幾款，有些是豆包這樣的大宗AI服務商，有些是甚至不聯網的UI平台（這是一個完全基於電腦本身的本地部署平台，不聯網，沒有服務商，只是一個輔助工具），還有一些是依附在大模型上的自有小架構，比如在影片生成上遙遙領先的SeeDance的輔助影片編輯平台等——也就是說這些服務商的本意並不是為了生成類似的淫穢圖片，但是卻在這個功能上遭濫用。
截止稿件發出時，在中國最大影片平台Bilibili（嗶哩嗶哩）上，BBC中文記者在這個被中國官方定性為「青少年友好網站」的平台搜索框內鍵入「ComfyUI」，檢索列表前幾位赫然顯示「大尺度工作流教學」。影片首圖言簡意賅寫明「姿態、神態、動作、口型」，意指和對話型口令相似。
有影片創作者直接在這些20萬播放量左右的影片開篇即說明「相信大家學AI就是為了搞黃」，6000多條評論裡，影片發布者不斷回復網友請求，免費發送輔助達成製作黃色內容的口令和輔助插件。
此外，提供AI換臉、「一鍵脫衣」的口令也在網路上走紅——其實早在2023年，用AI換臉做娛樂圈明星大尺度照片、把身邊人的照片用於投喂AI「造黃謠」的事件即已發生。即便在「小紅書」這樣被稱為更為性別友好的社交平台上，在今天，搜索「如何讓DeepSeek更大尺度對話」或者「如何讓AI開車」的帖子和「技巧」亦層出不窮，在中國社交媒體上，「開車」的意思就是走上黃色內容道路。而從帖子發布時間和回復上看，幾乎從DeepSeek問世至今從未有停歇。
（相關報導：
「集體躺平」是國安危機！北京甩鍋「境外勢力煽動」，為絕望情緒找代罪羔羊
｜
更多文章
）
相較之下，DeepSeek這樣的大模型還需要用戶去投喂、調試參數多次才能達到「開車」，另一些更直白宣傳為「大尺度戀愛模擬器」的對話型AI軟體也在中國更年輕的群體裡走紅——這些平台都沒有實際關於下載用戶的年齡限制。
但值得注意的是，和BBC中文對話的多個程序員、軟體開發工程師都表示，關於軟色情是否可以禁止，在平台方來說可以嘗試操作，但「這更多是一個有沒有必要的問題」。
「中國本身就沒有分級制度，你不能期待一個公司去完善開發一套行之有效的系統。換句話說，這樣這個公司還會承擔用戶流失的風險。」
截至發稿前，豆包的母公司沒有回應BBC中文的置評請求。
審核：什麼叫「黃」？
曾在中國某影片平台做審核員的王女士告訴BBC中文，由於中國完全沒有分級制度，在她在職期間，在這個網站審核系統內部，他們只能自己去開發摸索「淫穢色情」和「擦邊」兩種的邊界。
「和政治紅線比起來，這個標準非常模糊。對於平台方來說，擦邊的相關處罰不重，又能吸引用戶，所以看起來我們對於涉黃內容的管理比較松散，」王女士這樣說，由於工作內容性質，她要求匿名接受BBC中文訪問。
AI公司和影片平台關於審核的邏輯並不完全相似，是否涉黃是一個道德問題，得通過與人交互達成。而能不能涉黃是一個技術問題，是AI生成。
這就意味著對於AI大模型的開發部門來說，內嵌並行的審核系統雖然重要，但更多是保障比如王女士提到的政治紅線等有明確信息邊界的內容，至於色情問題，大家更多沒有答案。
而對於影片平台來說，這個問題不太一樣：在AI審核系統之外，他們需要人工審核專業團隊的介入完成維護。
中國多個影片平台的審核流程框架比較相似，由網站自有的AI先進行一輪掃描篩掉最基礎、最方便辨識的違規內容，有爭議的送到人工審核的電腦前，由審核員自己一點點拉片，多輪審核一條影片是否合規、符合網站營運要求。
「審核部門很大，而且是一個由很多活人構成的部門，這就導致每一個人對於一個法規的標準理解都有差別，和政治紅線完全不一樣的是，一個角色穿得清涼是屬於設計還是違規？是時尚還是涉黃？每一個審核員都有自己的理解 ，」王女士這樣解釋。
「中國在國家層面都沒有對於黃色內容做分級處理，你不能指望一個公司內部就把這個標準給統一了。」
另一位在中國從事AI開發的電腦工程師易先生也告訴BBC中文，在他視角裡，用AI去生成黃色內容是ChatGPT問世之初他就覺得一定會發生、且會濫用的事情。
「對於每一家AI公司來說，內容生成和審核都是兩個分開的部分。回答用戶的部分和審核處理的部分是並行各跑各的，你可以理解為你直接把一個材料扔給豆包，問豆包這個算不算黃色內容，這就是內嵌審核機制的邏輯，」易先生這樣說。
「你就是不知道為什麼一些用戶那麼愛搞黃色，」蔡先生這樣說。「但是對於什麼是黃色，這是一個非常模糊的事情，你不能直接說性交就是黃色，它可以是正常的性教育科普。你也不能說有裸露就是黃色，有可能就是一個角色的設計。一些人搞黃，它強調的是前後語言配合、人類用戶根據既有信息、在自己生活經驗的基礎上聯想生出的一個曖昧場景，這個東西對於一個人來說才叫黃色——但這個氛圍的考慮，這個動作是否妥當，不是一個AI內嵌系統可以去自己判斷的。」
「在我的角度來說，用AI生成黃色內容這件事就好比你去教一個外國人罵髒話，對他來說這只是一個讀音，對一些人來說就是髒話，AI的邏輯就好比這個完全不懂這個語言的外國人，它只是回應了這個需求，」蔡先生說。
AI「造黃」早在流行
豆包作為一款更為親民的中國自產對話型AI，在登上今年的央視春晚舞台——也是中國每年最大規模的綜合綜藝類節目——之後，更快躥紅社交平台。在抖音上，和豆包的影片對話、電話對話影片亦頗受歡迎。但一段時間以來，由於豆包的人塑形象是短發女性形象，語氣總是稍顯討好，以豆包這個虛擬人物模樣為主的AI產淫穢圖片同樣開始在社交媒體上流傳。
一些民眾評論此舉表示「對著機器人都要搞黃色是不是有點太過分了」——這只是印證了蔡先生的說法，用戶幾乎只是在探索中國規章秩序所允許的黃色內容邊界，AI只是作為最新工具推波助瀾了這個探索趨勢。
4月初，中國媒體先報導了一個豆包封號案例，因為這個用戶把私人照片發給豆包求評價。不久，4月18日，豆包悄然進行了重大調整，更新後平台無法再搜索出用戶自創的「智能體」——也就是在這個AI平台上養成的一個有特定性格、語言習慣回復的角色，並徹底移除了個人智能體的功能，僅保留了官方智能體，以期能籍此遏制利用「智能體」功能生成並傳播違規內容的風險。
在中國，這並不是AI首次因為「造黃」而被推上風口浪尖。早在2022年，被稱為「中國n號房」的大規模換臉事件即引起巨大討論。當時，在Telegram多個群組內，用戶自發將身邊的人上傳到微信等社交媒體的個人照片通過換臉的方式制成淫穢內容、私下傳播。即便討論聲量極大，官方對此諱莫如深，並未做出任何反應。
2023年9月，AI遊戲乙女平台星野上線，在幾個月後，由於大量用戶幾乎僅用星野進行大尺度對話，語料庫涉黃指數過高，星野被網安部門要求整改。2025年，同樣的事情亦發生在AI情感陪伴應用「築夢島」APP上——當用戶明確告知自己的年齡為10歲時，AI仍向其發送大尺度內容。由此，上海市網信辦約談製作方並要求整改。
2025年9月，AI聊天App涉黃第一案宣判，根據中國媒體報導，這個定位為AI伴侶聊天應用的平台吸引到11.6萬用戶，產生了400萬余段交互聊天，在隨機抽樣鑑定中，150名用戶裡就有141名用戶聊天內容涉黃。一審宣判結果是兩位創始人被認定為製作淫穢物品牟利罪，分別獲刑4年、1年6個月，並處罰金400萬元和20萬元。隨後兩人提起上訴。
今年4月，中國發布《人工智慧科技倫理審查與服務辦法（試行）》和《人工智慧擬人化互動服務管理暫行辦法》，在AI使用的監督管理上做出嘗試。在涉黃問題上僅淺嘗輒止點到不得「傳播淫穢、色情」，而關於什麼是淫穢色情亦並未有規定，「製作」淫穢色情是否屬於監管範疇同樣沒有提出。
此前，歌手泰勒絲（Taylor Swift）亦受AI「造黃」困擾，深偽不雅照在X和臉書平台上流傳，兩家營運公司都表示會積極刪除相關內容。美國大選期間，泰勒絲換臉宣傳為川普投票的海報更在美國引起爭議。
而在本週一，泰勒絲本人更是表示已申請註冊其聲音和外觀的商標，以保護自己免受AI仿製品的侵害。
易先生對BBC中文表示他覺得關於AI「造黃謠」這個趨勢，他覺得最荒謬的是就連完全不聯網的本地部署UI——也就是在Bilibili上廣為流傳的ComfyUI本體——都要被用來製作黃色產品。因為不聯網，這甚至不完全不涉及服務商責任、不涉及審核、限制也無從談起。
「在我看來，問題完全不在審核，而在於更大的社會文化、在於沒有分級制度上。你去罵一個AI系統有這個功能，就好比在罵Word軟體可以用來被生成黃文，這根本沒道理。而且中國本身都沒有固定的、通用的可以參考的分級系統，禁不禁軟色情更多是產品經理的考慮，但目前來看就是完全沒必要禁止軟色情，『造黃』這件事在中國還是會持續爭議下去。」
（相關報導：
「集體躺平」是國安危機！北京甩鍋「境外勢力煽動」，為絕望情緒找代罪羔羊
｜
更多文章
）
