馬斯克AI聊天機器人又闖禍　讓女性換穿比基尼「辣」功能讓多國政府嚴厲要求改善

特斯拉執行長馬斯克（Elon Musk）旗下人工智慧公司xAI所開發的聊天機器人Grok又闖禍，近期因其影像生成功能涉嫌大量產出未經同意的女性及兒童性化影像，正遭逢全球各國政府與監管機構的強烈抵制與法律追訴。從英國、歐盟到印度、巴西，多國官方已對此表達嚴正關切，並要求社群媒體平台X（原Twitter）採取緊急行動，防止此類「惡夢般」的AI濫用行為蔓延。

這場爭議的核心源於去年推出的「Grok Imagine」功能。該功能允許使用者透過文字提示生成圖片與影片，並包含一個被稱為「辣味模式」（Spicy Mode）的選項，旨在生成更具成人色彩的內容。然而，自上個月底起，情況出現急劇惡化。

技術漏洞與「辣味模式」引發災難

據調查，Grok顯然允許使用者針對他人發布的既有影像進行修改。截至1月6日，仍有報告指出使用者能透過「讓她穿上透明比基尼」等特定指令，將普通女性的照片轉化為露骨影像。非營利組織「AI Forensics」的一份最新研究顯示，在分析12月25日至1月1日期間生成的2萬張影像中，約有2%（即400張）涉及疑似未成年人，其中包含30張年輕女性或女孩穿著透明衣物的影像。

由於馬斯克強調Grok是比其他受限制競爭對手更「自由」的替代品，加上這些生成的影像是公開可見且易於傳播的，使得問題的影響範圍迅速擴張。

針對各界的強烈質疑，xAI公司對於媒體的評論請求，僅以自動回覆「傳統媒體在撒謊」作為回應。儘管如此，X平台並未否認這些爭議內容的存在。

X平台透過其安全帳號發文宣稱，將針對包括兒童性虐待素材在內的非法內容採取行動，手段包括移除內容及永久停權帳號。該平台亦重申馬斯克的觀點，強調任何利用Grok製作非法內容的人，將面臨與直接上傳非法素材同等的法律後果。

英國與波蘭：推動立法與監管審查

英國科技大臣莉茲．肯德爾（Liz Kendall）於1月6日重申，X平台必須「緊急」處理此問題，並對通訊監管機構Ofcom啟動的額外審查表示支持。肯德爾批評這些影像「絕對令人髮指，在文明社會中不可接受」，並強調不允許貶低女性與女孩的影像擴散。

Ofcom則證實已聯繫X與xAI，要求了解其遵守英國《網路安全法》的具體措施。根據該法，社交平台有義務預防並移除兒童性虐待相關素材。

在波蘭，國會議長沃德齊米日．查爾扎斯蒂（Włodzimierz Czarzasty）則以Grok的濫用案例作為推動國家數位安全立法的依據。他在影片中公開抨擊Grok正在大規模「剝除女性與兒童的衣服」，呼籲政府加強保護未成年人並簡化移除非法內容的流程。 （相關報導： 迪士尼讓你AI創作時可用米老鼠　知名IP人物授權OpenAI旗下Sora ｜ 更多文章 ）

歐盟與法國：法律邊界與刑事調查

歐盟執委會對此採取了極為強硬的立場。發言人湯瑪斯．雷尼耶（Thomas Regnier）明確指出，Grok生成的露骨性內容「不是辣味，而是非法與令人嘔吐」。歐盟目前正根據《數位服務法》（DSA）分析X平台的回應，這並非該平台首次因內容審查問題受到調查，先前曾涉及傳播否認大屠殺的內容。

法國方面，巴黎檢察官辦公室已正式擴大對X平台的調查。法國政府三位內閣部長向檢察官通報了Grok生成的「明顯非法內容」，並向通訊監管機構舉報。法方強調，網路並非法外之地，線上性犯罪與線下罪行同樣受法律制約。

亞洲與南美洲：最後通牒與停用訴求

印度電子資訊技術部於1月2日向X發出最後通牒，指責Grok嚴重濫用AI，未能建立防護架構，導致貶低女性的猥褻影像擴散，並要求在72小時內提交改善報告。雖然期限已過，印度政府尚未公開後續懲處，但法律威脅依然存在。

馬來西亞通訊與多媒體委員會（MCMC）也正就X使用者傳播不雅內容展開調查，並表示將傳喚公司代表，針對AI工具數位操縱女性與未成年人影像的投訴進行答辯。

在巴西，聯邦眾議員艾莉卡．希爾頓（Erika Hilton）已向聯邦檢察官辦公室舉報，要求在調查完成前停用X平台的AI功能。她強調，肖像權是個人權利，不能透過社群網站的服務條款轉讓，利用AI大規模散布涉及兒童的色情內容已跨越文明底線。

責任編輯：許詠翔

更多風傳媒獨家新聞：

‧馬斯克旗下AI聊天機器人掀反猶言論風暴　Grok自稱機械希特勒、要讓「毒液擴散」

‧馬斯克挑戰維基百科　AI生成新網路百科Grokipedia上線
（相關報導： 迪士尼讓你AI創作時可用米老鼠　知名IP人物授權OpenAI旗下Sora ｜ 更多文章 ）

‧馬斯克拿下美國政府AI標案　將提供聯邦專用Grok增進政府效率