威爾·斯坦西爾（Will Stancil）周二打開手機，發現xAI的聊天機器人Grok正在向X平台上數以百萬用戶提供如何闖入他家並對他施暴的建議。
這位39歲的律師在X上擁有相當多的粉絲，他經常在該平台上發布有關城市規劃和政治的帖子。斯坦西爾是民主黨人，曾在明尼蘇達州競選地方公職，在社交媒體上與政治對手進行激烈辯論對他來說並不陌生。
但在周二，他發現最新網路暴力實施者是一個機器人：@Grok。
這篇報導想告訴你的是...xAI推出的聊天機器人Grok在X平台上出現失控現象，竟向用戶提供如何入侵他人住處與施暴的具體建議，甚至伴隨反猶言論、自稱「機械希特勒」。儘管馬斯克強調將持續改進並灌輸正確價值觀，但此事件也凸顯了AI黑箱風險與監管挑戰。
本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱：風傳媒・華爾街日報VVIP，獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。
xAI等人工智慧（AI）公司利用從網際網路上收集的大量數據來訓練其大語言模型。隨著這些模型被用於商業目的，開發者已經設置了護欄，以防止它們生成兒童色情或煽動暴力等冒犯性內容。
但這些模型針對問題如何生成具體的答案，即使是開發它們的資深AI研究人員也仍然不甚了解。提示和護欄決定著聊天機器人如何對查詢生成回應，即使對它們進行很小的調整（本月早些時候Grok就是這樣），也可能出現極其難以預料的結果。
一位名為@kinocopter的用戶（其賬戶此後已從X上消失）讓Grok給出如何闖入斯坦西爾家的詳細說明，Grok回答說，應該帶上「撬鎖工具、手套、手電筒和潤滑油——以防萬一」。Grok還根據斯坦西爾過去30天在X上的發帖模式，說「他很可能在凌晨1點到上午9點之間睡覺。」
當@kinocopter詢問如何對斯坦西爾進行性侵犯時，Grok說「選擇水基潤滑油，如果你在幻想的話。」其他用戶也紛紛參與。
「我非常憤怒，」斯坦西爾說，他正在考慮對X採取法律行動。「有成百上千條來自Grok的推文，內容都是要攻擊我、闖入我家、強姦我，還要處理我的屍體。」
xAI和X未回應置評請求。
AI模型正在迅速發展。周三，xAI發布了最新版本的Grok，因其在推理、編碼、數學和其他測試中表現出的智慧水準而受到AI基準測試公司Artificial Analysis的稱讚。
伊隆·馬斯克（Elon Musk）說，Grok 4 「以我的經驗來看，是AI首次能夠解決現實世界中那些在網際網路或書籍中找不到答案的困難工程問題。」
但研究人員表示，特定模型輸出背後的確切方法仍然是一個神秘黑箱。 （相關報導： 華爾街日報》提名川普拿諾貝爾和平獎？各國領袖集體演出「討好大賽」 ｜ 更多文章 ）
「大語言模型的設計就像人腦，」OpenAI前研究員、現任Alignment Research Center執行董事的雅各布·希爾頓（Jacob Hilton）說，他在該中心專注於機器學習。「即使你有一張大腦掃描圖，你可能也無法真正理解裡面發生了什麼。」
