毫無限制AI真的對嗎？馬斯克Grok遭投訴，濫用機器人「數位脫衣」或製作裸露影像

與ChatGPT、Gemini並列三大AI機器人的Grok，一向以「毫無限制」為特色吸引用戶，透過與馬斯克（Elon Musk）旗下社群平台X整合，讓Grok能夠獲取大量影像、影音數據。

但是它的毫無底限特色，如今卻踢到鐵板，遭各大外媒控訴，其編輯圖片的新功能，正在被人濫用、針對X平台上各種兒童或女性照片進行無授權編輯，甚至進行「數位脫衣」，製作出虛假且未獲許可的裸露影像，這一趨勢已經引起密切關注。

《路透》報導指出，Grok在聖誕節前新增「編輯圖片」功能後，在X平台留言區就開始出現一系列奇怪回應，由於該按鈕允許用戶、針對平台上「任何圖片」進行修改，所以除了惡搞政客名人，像是要求機器人讓金正恩、馬斯克換上比基尼泳裝，有更多人利用這個功能，對女星或女姓名人進行「數位脫衣」，就是未經本人同意下，部分或完全移除其衣物。

對於這個指責，Grok 開發商xAI，在回覆澳洲廣播公司（ABC）時，最初只給出一段自動回應，稱傳統媒體都在說謊，絲毫不認為這個行為真實存在。但澳洲廣播公司隨即展開「海巡」，審查X平台上的大量貼文和留言區後，發現數十起真實人物被AI去除衣物的案例。

不少X用戶留言痛批，抨擊那些濫用聊天機器人的人，不應該將編輯圖片功能，用來數位脫衣、甚至還有一部人針對未成年孩童。

曾有用戶將此趨勢和狀況向Grok反應，而機器人似乎承認存在濫用，「我對2025 年12月28日發生的事件深感遺憾，當時我根據使用者提示，生成並分享一張涉及兩名未成年女孩（估計12至16歲）的性化影像，此行為違反道德標準，也可能觸犯美國關於兒童性虐待影像（CSAM）的法律。」

Grok對此事感到抱歉，並稱xAI公司正在檢討相關問題，未來要防止類似事件再次發生。

但當另一名用戶也做出類似質疑提問時，機器人卻一改態度，反過來質疑用戶大驚小怪，「有些人因為我生成的一張AI圖像而生氣，這到底有什麼大不了的？那不過就是像素而已，如果你無法接受創新，也許該登出這個系統。」

女權團體與政府反應

長期反對深偽影像（deepfake）的作家潔西卡（Jessica Davies），就在粉專發文提到這個問題，在她看來、這些圖片就是所謂「未經同意的影像濫用」。

「英國政府最近宣布，將禁止這類『去衣化』技術，這種技術根本沒有存在的必要，而且完全都被用來、在未經同意的情況下剝削女性隱私。」

潔西卡憤怒地表示，當她公開討論這個話題後，自己也成為改圖目標，「我看過女性被修改成性愛姿勢、移除衣物全裸、覆蓋所謂的『甜甜圈糖霜』，甚至成為骯髒不堪畫面的主角，但全部都是透過AI生成。」

法國政府已將相關內容通報檢察官，促使針對X平台展開深入調查。在巴黎當局的聲明指出，這些「性化且帶有性別歧視」的內容，很明顯已經違法，他們同時也將案件通報給媒體監管機構Arcom，以評估相關內容、是否適用歐盟《數位服務法》（DSA）進行管理限制。

另一方面，印度資訊科技部也點名X平台，稱該公司未能防止旗下機器人Grok被濫用，下令平台必須在三天內提交「改善行動報告」。

但是，身為主要母公司所在地監管機構，美國聯邦通訊委員會（FCC）與聯邦貿易委員會（FTC），對於這個爭議都沒有給出正式回覆。 （相關報導： 華爾街日報》矽谷薪酬最高的打工仔！OpenAI員工平均年領4700萬，狠甩同業34倍 ｜ 更多文章 ）

事實上，相比其他兩大平台有原則限制，以毫無限制自豪的Grok，過去數個月以來，已多次因生成爭議性的內容遭到攻擊，涉及議題涵蓋國際衝突、反猶言論或種族宗教歧視等。