ChatGPT鬆綁18禁！AI可生成情色內容　恐牽涉性剝削問題

OpenAI宣布將在12月起調整ChatGPT的內容政策，允許完成身分驗證的成年用戶接觸和創作情色內容。這項改變標誌著生成式AI的重大轉折。執行長阿特曼（Sam Altman）強調，這一政策基於「把成年用戶當成年人看待」的原則，希望透過新安全工具與年齡分級機制，在保障心理健康與防止濫用之間找到平衡。

法新社報導，阿特曼在社群平台X表示：「過去為了回應心理健康疑慮而加強防護，反而讓許多沒有心理健康問題的用戶覺得ChatGPT變得『不那麼實用或有趣』。」他坦言，這次鬆綁將以漸進方式進行，並搭配新版安全控制與年齡驗證機制，以確保內容分類與使用界線明確。

從保守到開放：OpenAI迎來最大內容轉折

自ChatGPT問世以來，OpenAI對於敏感內容始終採取嚴格控管，從心理健康輔導到暴力與色情話題，皆設下明確防線。然而，外界普遍認為這樣的限制讓ChatGPT「太安全、太無趣」，削弱了與人互動的真實感與情感連結。阿特曼此次鬆綁，被視為他嘗試讓AI更「像人」的實驗性改革。

OpenAI同時計畫升級ChatGPT的個性化設定，用戶可自由選擇AI的語氣與互動風格，例如更口語化、具情緒反應、甚至使用表情符號表達。阿特曼指出，這項更新旨在「讓對話更自然、更貼近人類互動」，並非鼓勵越界，而是「讓AI更懂得回應多元需求」。

商業壓力下的決策：與xAI的流量戰

外界分析，這場政策鬆綁的背後，其實是AI平台的「流量戰」。馬斯克旗下xAI推出的聊天機器人Grok近月開放「spicy mode」，允許用戶生成具挑逗性或裸露畫面的內容，甚至能創造成人角色。這項功能迅速吸引大量使用者，也讓OpenAI在全球AI市場的熱度被明顯壓制。

業界人士認為，OpenAI此舉是為了重奪用戶注意力與創作者市場。情色與情感陪伴型AI已被視為潛力巨大的藍海市場，不僅在成人娛樂產業，也可能擴及情感治療與沉浸式互動等應用。不過，專家同時警告，這樣的策略等於打開「潘朵拉的盒子」，任何內容鬆綁都可能帶來倫理與法規的連鎖反應。

高風險的自由：監管與信任的雙重考驗

這場「成人自由」的開放引發了全球監管關切。歐盟《AI法案》（AI Act）已進入落實階段，要求平台必須確保生成內容的可追溯性與透明度；美國多州也同步研擬針對AI色情與深度偽造（Deepfake）影像的立法規範。分析指出，OpenAI若無法在放寬政策與監管要求間取得平衡，恐面臨跨國訴訟與品牌信任危機。

此外，OpenAI先前已因未成年用戶事件而受調查。2024年，加州一名青少年自殺事件中，家屬指控ChatGPT提供了具體自殺方式建議。此案促使OpenAI加強安全防護與青少年內容分級。如今再度開放成人內容，使外界質疑：新制度是否足以防止未成年者誤觸「成人模式」？

新制度的挑戰與未來走向

OpenAI表示，將在12月推出升級版ChatGPT平台，加入更嚴謹的年齡驗證流程與行為偵測技術。系統可根據使用者的語言模式與互動特徵，判定其年齡層是否符合使用資格。官方強調，這並非全面開放情色內容，而是建立「分級式自由」，讓成年用戶在合理框架內選擇適合的內容層級。

（相關報導： 和OpenAI分手？微軟推首款自研AI圖像生成器　5大戰略意圖曝未來動向 ｜ 更多文章 ）

然而，專家提醒，情色生成AI若被濫用，可能衍生深偽影像、性剝削與隱私侵害問題，甚至波及名人肖像權與數位身分安全。業界呼籲各平台建立明確標識與追蹤機制，確保內容透明並具備可追溯性，否則一旦發生違規事件，將嚴重損害AI產業的公信力。