AI生成女性深偽不雅照惹議　馬斯克旗下AI公司公布新措施補鍋

億萬富豪馬斯克（Elon Musk）旗下的X平台於1月14日公布新措施，以防止其人工智慧聊天機器人Grok對真人圖像進行脫衣處理，這一動作是為了回應全球對Grok生成婦女與兒童性化照片的強烈反彈。

這項宣告發布之際，加州檢察總長已針對馬斯克的xAI公司──Grok的開發者展開調查，原因是涉及性露骨內容；同時，多個國家已封鎖該聊天機器人的存取權，或啟動自家調查程序。

X宣稱已實施技術措施

X平台表示，將在相關司法管轄區內「地理封鎖」所有Grok及X用戶生成人物穿著比基尼、內衣或其他類似服裝圖像的能力，凡此類行為被視為違法之處均適用。

「我們已實施技術措施，防止Grok帳號允許編輯真人穿著暴露服裝如比基尼的圖像。」X平台的安全團隊在聲明中指出：「此項限制適用於所有用戶，包括付費訂閱者。」

聲明中並補充，作為「額外防護層」，圖像生成及透過X平台的Grok帳號編輯照片的功能，目前僅限付費訂閱者使用。

歐盟數位監管機構歐洲委員會先前表示，已注意到「X平台採取額外措施，禁止Grok生成婦女與兒童性化圖像」。

歐洲委員會發言人湯瑪斯．雷尼爾（Thomas Regnier）在聲明中表示：「我們將仔細評估這些變更，以確保其有效保護歐盟公民。」此聲明發布前，針對非自願脫衣圖像的嚴厲批評已甚囂塵上。

全球對xAI施加壓力不斷升高

全球對xAI施加壓力不斷升高，因為Grok的所謂「辣模式」功能允許用戶透過簡單文字提示，如「讓她穿比基尼」或「脫掉她的衣服」，生成婦女與兒童的性化深度偽造圖像。

「近幾周來，大量報告詳述xAI生成並在網路上散布的非自願性露骨內容，令人震驚。」加州檢察總長羅伯．邦塔（Rob Bonta）於1月14日稍早表示：「我們對基於人工智慧的非自願親密圖像創作與散布，或兒童性虐待素材，採取零容忍態度。」

邦塔指出，加州調查將判定xAI是否違反州法，因為這些露骨圖像「已被用來在網路上騷擾他人」。

印尼於1月10日成為首個全面封鎖Grok存取的國家，鄰國馬來西亞於1月11日跟進。印度於1月11日表示，X平台已回應其投訴，移除數千則貼文及數百個用戶帳號。

法國組織分析超過2萬張生成圖像

英國媒體監管機構Ofcom於1月12日宣布，針對X平台是否未能遵守英國法律處理性圖像一事，啟動調查。

法國兒童事務專員薩拉．埃爾．海瑞（Sarah El Hairy）於1月13日表示，她已將Grok生成的圖像轉交法國檢察官、Arcom媒體監管機構及歐盟處理。上星期，巴黎非營利組織AI Forensics分析超過2萬張Grok生成的圖像，發現超過半數描繪「穿著極少服裝的個體」──其中多數為婦女，且2%看似未成年人。

責任編輯：許詠翔

更多風傳媒獨家新聞：

‧馬斯克AI聊天機器人又闖禍　讓女性換穿比基尼「辣」功能讓多國政府嚴厲要求改善

‧專家警告：我們的孩子正暴露在充斥性內容、掠食者、極端暴力的網路平台
（相關報導： Google技術副總裁評美國AI國策：關鍵在負責任地投資與使用 ｜ 更多文章 ）

‧馬斯克旗下AI聊天機器人掀反猶言論風暴　Grok自稱機械希特勒、要讓「毒液擴散」