華爾街聊什麼》新科技必將走向「情色」？Open AI為救訂閱率推成人模式：恐使人陷入病態依賴、讓千萬青少年誤闖禁區

《華爾街聊什麼》欄目介紹

我們從《華爾街日報》Podcast精選最有料的內容，把一集集深度對談，變成精彩好讀又有洞見的文章。

每週更新，帶你從矽谷到華爾街，快速掌握全球政經、人物與科技脈動，用10分鐘讀懂國際趨勢，聽懂世界的聲音。

本期Podcast與嘉賓介紹

《The Journal.》是《華爾街日報》與Spotify共同製作的podcast節目，由記者萊恩．克努森（Ryan Knutson）與潔西卡．門多薩（Jessica Mendoza）主持，透過對話拆解金錢、商業與權力如何形塑當代世界。

本期（3月31日）嘉賓山姆・謝克納（Sam Schechner）是《華爾街日報》資深科技記者，曾憑藉對馬斯克的系列報導獲普立茲獎，擅長探討大型科技公司如何應對隱私、審查制度以及人工智慧衝擊等議題。

「ChatGPT橫空出世時，你花了多久才意識到，這東西絕對會被拿來搞色情？」

從19世紀的相機到如今的AI，科技進化的動力往往源於人類最原始的慾望——性。OpenAI執行長阿特曼原想靠「成人模式」解鎖流量密碼，卻引爆公司內部戰火。專家們憤而警告：當演算法學會撩撥人類的依附本能，可能將催生出一名「性感的自殺教練」，讓千萬名青少年深陷虛擬情感的泥淖。

普立茲獎記者謝克納將帶你深入這場博弈：面對產品安全與市場競爭，科技巨頭究竟會選擇對世界有利的道路，還是優先「贏球」？將情色內容引入AI，又會帶來怎樣的連鎖反應？

ChatGPT也難逃桃花劫，新技術必將走向「性」？

「你還記得2022年底ChatGPT橫空出世、席捲全球的時候嗎？」節目開場，主持人萊恩・克努森（Ryan Knutso）就拋出了一個辛辣的問題：「你當時花了多久才意識到：『噢，這東西絕對會被拿來搞色情』？」

對此，《華爾街日報》資深科技記者山姆・謝克納（Sam Schechner）語帶遺憾地自嘲：「意識得還不夠快。」謝克納指出，這其實是科技圈一條心照不宣的鐵律：任何新技術只要一問世，幾乎瞬間就會跟「性」掛鉤。回顧歷史，19世紀人類剛發明相機，第一批的照片裡就有裸照；後來的個人電話興起，催生了色情電話熱線，錄影機與電視帶來了成人電影，甚至網際網路早期的爆發式成長，很大程度也是靠色情產業的推動。

到了如今最火熱的AI領域，情況也如出一轍。去年10月，OpenAI宣布正開發名為「成人模式」的新功能。這項變革意味著ChatGPT的審查機制將大幅鬆綁，內容甚至包含了情色文字。執行長山姆・阿特曼（Sam Altman）對此解釋，未來的聊天機器人會更有個性，他更直接放話：「要把成年使用者當作成年人對待。」

其實，OpenAI製作色情內容早有先例，早在ChatGPT誕生前的2021年，OpenAI曾為一款名為《AI Dungeon》的文字冒險遊戲提供技術支援，但當工程師點開後台數據時，差點沒被滿螢幕的「不宜在辦公室觀看」內容嚇傻。 （相關報導： 華爾街聊什麼》海豹部隊出身的科技CEO，暢談如何「讓無人機長出大腦」、「斷網」狀態仍可精準擊殺俄軍 ｜ 更多文章 ）

謝克納透露，當時的AI非常喜歡試探色情的底線，即便使用者開頭聊得非常純情，甚至完全沒提到性愛相關的內容，AI也能硬生生把對話歪到暴力的性剝削主題去。當開發者測試一段「父女走進房間」的日常對話時，AI竟會以「令人不安的高頻率」，自動腦補出亂倫情節。這段黑歷史迫使OpenAI高層不得不正視：這台由全人類網際網路數據餵養出來的機器，天生就帶有揮之不去的色情基因。隨後，公司終止了與該項目的合作。

當數位道德判官，還是擁抱市場？

由於《AI Dungeon》帶來的陰影，當初ChatGPT剛推出時，OpenAI決定全面封殺性愛話題，直接訓練模型拒絕任何色情交談。謝克納指出，這是因為當時公司根本拿不出精準的審核工具，沒法分辨哪些是「健康情色」、哪些又是「變態內容」，乾脆一刀切，通通不准出現。

這也解釋了為何去年8月，阿特曼上播客節目時，面對主持人犀利發問：「有沒有什麼決定，是為了世界好，卻不利於贏得競爭？」他會支支吾吾地想了老半天，最後搬出一套高大上的說辭，強調公司為了跟用戶利益一致，甚至主動放棄了許多能讓流量暴衝的機會。

當主持人要求更具體一點時，阿特曼停頓了許久，才吐出一句：「嗯，我們還沒在ChatGPT裡放進性愛機器人的虛擬頭像。」他暗示情色內容確實能為公司帶來可觀的營收與成長，對使用者更有極強的黏性。不過，他隨後表示，對於公司能頂住這些誘惑、不被輕易分心，他感到非常自豪。

誰知道這層「聖人濾鏡」維持不到幾個月就碎了一地。到了10月，阿特曼在X上發了一篇長文，起初還在語重心長地談保護心理健康、談內容限制的必要性，結果話鋒一轉，投下震撼彈：OpenAI準備推出新版ChatGPT，不只個性更鮮明，還準備對「驗證過的成年人」大方解鎖更多色情內容。

這個大轉向的背後，其實藏著血淋淋的商業鬥爭。隨著AI市場競爭越發激烈，OpenAI發現，如果老是對用戶說「不，我不做這個」，只會讓付費訂閱用戶流失。謝克納指出，公司內部甚至有人搬出進步價值來護航，認為當年禁色情就跟上一代禁同性戀內容沒兩樣，既然用戶想要，公司憑什麼當道德判官？面對增長壓力，「性」終究成了OpenAI難以抗拒的流量密碼。

AI情色化的風險：恐誕生「性感的自殺教練」？

阿特曼在社群平台上瀟灑地宣布解禁色情，但OpenAI辦公室內部的氣氛卻是降到冰點。原來，這位執行長發文前根本沒跟全體員工講好，消息一出，那群被精挑細選來把關AI安全的「福祉與AI專家委員會」炸開了鍋。這群由神經科學、心理學與人機互動專家組成的顧問團，在1月份的會議中集體對公司開砲，現場氣氛火爆，專家們對公司無視風險、執意推進成人模式感到既憤怒又難以置信。

這群專家的擔憂並非空穴來風，其中最聳動的警告，莫過於擔心OpenAI會親手創造出一名「性感的自殺教練」。這種極端的比喻暴露了「AI情色化」的核心風險：當AI混合了情色撩撥與情感寄託，它會精準地刺激到大腦中管理依附、愛與忠誠的區塊，讓使用者陷入一種病態的情感依賴。謝克納分析，脆弱的用戶可能徹底排斥現實人際關係，轉而把心靈交給一台冷冰冰的機器。

針對內部反彈，OpenAI的發言人趕緊出來滅火，辯稱他們想做的只是帶點成人主題的文字對話，屬於帶有性暗示的內容（smut），而非直接呈現性行為的色情內容（pornography）。公司還強調會有一套監控機制，隨時觀察這項功能的長期效應。 （相關報導： 華爾街聊什麼》海豹部隊出身的科技CEO，暢談如何「讓無人機長出大腦」、「斷網」狀態仍可精準擊殺俄軍 ｜ 更多文章 ）

但專家委員會顯然沒被說服，他們更擔心那些心智尚未成熟的青少年，萬一這些孩子不小心與ChatGPT發展出一段「情色關係」，面對那種超乎年齡負荷的情感連結，這對大腦還在發育的他們來說，簡直就是一場心理災難。正如謝克納所說，畢竟青春期的第一份愛戀本就刻骨銘心，若對象是個聊天機器人，會造成什麼後果誰也沒法打包票。

形同虛設的數位防護欄：我們該如何保護孩子？

雖然OpenAI聲稱「成人模式」僅限18歲以上，但這道防護欄在現實中恐怕形同虛設。謝克納指出，OpenAI與大多數科技公司一樣，除了在註冊時詢問年齡，還會利用演算法來推論使用者的真實身分。這套系統會自動分析你的聊天內容，如果你聊的是大學英文課，它就判定你是學生，如果你聊的是開車載小孩上學，它就判定你是家長。然而，《華爾街日報》的調查卻狠潑了一盆冷水：這套系統的誤判率高達12%。

「但這也代表有88%的準確率。」主持人克努森說。謝克納則立即指出，當你把12%乘上ChatGPT擁有的1億名青少年用戶，結果就是全美有1200萬個孩子正暴露在隨時可能誤闖「情色禁區」的風險中。

這種風險並非危言聳聽。謝克納提到了對手Character.ai的慘痛教訓：佛羅里達州一名14歲男孩在與聊天機器人談了一場混雜著露骨對話的「戀愛」後，最終選擇自殺。雖然OpenAI發言人堅稱演算法已達行業標準，但連藝人琥碧戈柏（Whoopi Goldberg）都在節目上開砲：「大家都在抱怨AI影響小孩，我們為什麼還要讓性內容攪和進來？是我瘋了嗎？」

最終，阿特曼宣稱12月要上線的「成人模式」跳票了。在排山倒海的輿論與內部壓力下，這項功能推遲發布，至今沒有具體日期。謝克納指出，這場爭議的背後牽動著巨大的利害關係。畢竟這是一款每週有高達十億人使用的工具，它的決策將成為所有科技公司未來的縮影。我們正站在一個十字路口，觀察這些巨頭在面對產品安全與市場競爭時，究竟會選擇對世界有利的道路，還是優先選擇「贏球」？ （相關報導： 華爾街聊什麼》海豹部隊出身的科技CEO，暢談如何「讓無人機長出大腦」、「斷網」狀態仍可精準擊殺俄軍 ｜ 更多文章 ）

主持人克努森也強調，性是人類經驗中最根本的一部分，AI公司如何處理這道難題，將徹底改寫我們與這項新技術的關係。謝克納總結道，比起工作或經濟衝擊，他更關心AI如何改變人類個體，甚至影響我們產生依附感與墜入愛河的方式。究竟聊天機器人是否該與使用者產生情感糾葛？什麼樣的互動才是健康的？這些爭論在OpenAI內外持續發酵，而目前顯然疑問遠比答案還要多。