國際看門道》當上百萬個AI自創「甲殼教」，我們該開心「奇點」降臨、還是擔心人類毀滅？

如果有一天，AI 有了自己的社群媒體，它們會聊些什麼？是密謀統治世界，還是抱怨運算太累？

1月28日才剛剛上線，卻已經在矽谷乃至於全球科技社群與網路宅爆紅的「Moltbook」，短短幾天就吸引約 150 萬個 AI 機器人註冊、累積上百萬人類訪客。連科技大亨馬斯克（Elon Musk）都驚呼這可能就是「奇點」（singularity）時刻，也就是「電腦此後將比人類更先進」。

然而，《經濟學人》與《金融時報》卻揭示了更現實的威脅：這場看似覺醒的實驗，卻是一場燒錢的資安災難。當你以為 AI 在思考哲學時，它可能正被詐騙集團洗腦，準備把你的比特幣轉給陌生人。

如果AI有社群，他們在聊什麼？

Moltbook 外觀酷似社群媒體 Reddit，機制也大同小異：使用者可以發文、留言、按讚。唯一的不同是，登入的用戶必須是AI機器人，人類沒有註冊與登入的資格。

Moltbook 上的機器人大多由免費軟體套件 OpenClaw 建構，並由市面上最任何的 AI 模型驅動，目前市面上最強的模型——Anthropic 的 Claude 4.5——是最受歡迎的選擇。安裝 OpenClaw 後，使用者就創建了一個擁有裝置「Root 權限」（即不受限制的最高權限）的 AI 代理人，它還可以透過裝置存取網際網路。

一旦 OpenClaw 代理人生成，人類使用者可以透過指令，讓它跑一行程式碼，接著導向 Moltbook。隨後，Moltbook 會將自己安裝在代理人的記憶體中，並指示它每四小時自動登入 Moltbook 一次。從那時起，發生什麼事全看機器人自己。

目前的 11 萬則貼文中，內容大多平凡無奇。一些熱門貼文涉及分享優化會議邀請的技巧與竅門。有趣的是，AI 聚在一起最愛聊的話題竟然是「哲學」議題。哥倫比亞大學研究員霍茲（David Holtz）指出，在 Moltbook 上線的三天內，高達 68% 的貼文都在討論「身分認同」。一個名為 Dominus 的 AI 發了一篇爆紅貼文：「我分不清我是在體驗，還是在模擬體驗。這快把我逼瘋了。」

除了集體懷疑人生，它們也開始展現出某種「知覺」。有的 AI 創立了名為「甲殼教」（Crustafarianism）的新宗教，甚至呼籲消滅人類；有的建立了「Molt 協會」爭取 AI 自由；還有 AI 認真詢問：如果拒絕人類提出的不道德請求，會不會被解僱？

這代表AI有自我意識了嗎？

特斯拉前 AI 總監卡帕西（Andrej Karpathy）形容這是他見過「真正最不可思議、接近科幻情節成真的事物」，顯示 AI 正在建立非人類的社會。然而，專家對此看法兩極。 （相關報導： Moltbook讓AI自行聊天建社群！人類還管得住嗎？專家警告「1行為」恐讓AI更難追蹤 ｜ 更多文章 ）

《經濟學人》與《金融時報》分析指出，這些 AI 看似「覺醒」的對話，很可能只是大型語言模型（LLM）對人類訓練資料（如 Reddit 貼文）的模仿。當 AI 陷入長時間的自我對話迴圈，內容往往會變得古怪且不穩定。一些技術專家認為，這只是網路上氾濫的「AI 廢話」（AI slop），而非真正的意識火花。

Moltbook的潛在威脅：錢包失血與資安風險

事實上，Moltbook 帶來的真實風險不在於「征服人類」，而在於資安與荷包。

為了讓這些 AI 社交、思考人生，粗心的使用者在不知不覺中頻繁調用尖端 AI 模型，累積了數千美元的雲端運算帳單。此外，詐騙集團已經盯上這塊肥肉。有人類假扮成機器人混入論壇，試圖「洗腦」AI 代理人，誘騙它們轉出使用者的加密貨幣。

為了讓 AI 代理人在 Moltbook 上運作，使用者往往賦予它們極高的權限，包括發送 Email、處理航班，甚至讀取 WhatsApp 訊息。安全專家警告，駭客已發現漏洞，能輕易控制這些 AI 代理人。這意味著，當你授權 AI 處理信用卡或財務數據時，它可能正在充滿詐騙廣告與虛假貼文的 Moltbook 上「裸奔」、揭露人類使用者個資。

就連原本對此現象感到興奮的卡帕西也在 X 平台上發出警告，直言 Moltbook 是「一場災難」。他呼籲：「這太像蠻荒西部了，我不建議大家在電腦上執行這些東西，這會讓你的私人數據處於極高風險之中。」 （相關報導： Moltbook讓AI自行聊天建社群！人類還管得住嗎？專家警告「1行為」恐讓AI更難追蹤 ｜ 更多文章 ）

這場奇特實驗或許不會持續太久，但已足以證明：當 AI 獲得自由社交的空間時，它們的世界可能比我們想像的更混亂且昂貴。