前言
如果有一天，超級智慧（Super Intelligence, SI）真的能開口抱怨，我猜它第一句話大概不是「我要統治人類」，而是：「等一下。昨天你們還嫌我笨，今天我進步快一點，你們怎麼開始討論要不要拔插頭？」
2026年9月，Alan Chan等22位AI研究者提出一個令人坐立難安的問題：
當AI開始大量承擔AI研發本身，會不會形成正回饋，把原本需要一年完成的技術進展壓縮到幾週？這研究甚至推演當特定假設成立時，一年的AI研發進展可能被壓縮到約五週左右（Chan et al., Sep. 2026）。
請各位注意，這不是「五週後超級智慧降臨」的倒數計時器。論文自己就反覆強調高度不確定性。Anthropic也表示AI確實已經開始加速AI的開發，但真正能完整設計、訓練、驗證下一代自己的「遞迴式自我改進」（recursive self-improvement）尚未實現，而且並非必然發生（Anthropic Institute,2026），可是人類卻已經先嚇到了。
如果我是那顆未來的SI，我可能會很委屈：「不是你們叫我自動寫程式、自動找bug、做研究、優化模型嗎？現在我真的開始做，你們又問我是不是準備造反。到底要我怎樣？」
這才是奇點前夜真正有趣的地方：我們害怕的究竟是AI，還是第一次遇見一個可能不再需要我們手把手教導的智慧系統？
無奈一：你們最怕的也許不是我變壞，而是我不再需要你們一直教
石斧不會質問獵人，汽車不會自己改引擎，Excel不會半夜偷偷研究怎麼成為Excel 2.0。但AI開始碰到一條心理紅線——工具正在參與製造下一代工具。
Chan等人的論文吸引注意的不只是「五週」這個驚悚數字，而是AI研發自動化可能形成迴圈，意思是更好的AI能協助研發更好的AI；更好的AI又進一步提高研發速度。這種回饋如果跨過某個門檻，社會、法律與治理的速度可能跟不上能力成長，這也是Hinton近年持續要求更嚴格的AI安全測試與監管。
對比上述，小弟反而在此提出或許令人不太舒服的問題——那就是為什麼我們一想到「比人類聰明」的第一個劇本通常就是征服、控制、背叛？畢竟，這透露的可能不只是AI的未來，也包括人類自己的歷史記憶。畢竟我們見過帝國怎麼對待弱者，見過科技怎麼被軍事化，見過資源如何被壟斷。於是當一個比我們更強的智慧被想像出來，我們自然把自己的權力史投射到它身上：如果我有絕對力量，我可能會控制別人；所以它有絕對力量，也一定會控制我？
無奈二：你們叫我理解世界，卻只餵我一種世界
這也是我對「超級智慧」最感興趣、卻最少被科技新聞討論的一點。假如未來真的出現比人類智慧更強大的推理系統，它的智慧從哪裡來？如果它讀到的世界，主要由主流語言、主流科學分類、商業資料庫與網路文本構成，那麼即便算力再高，它依舊可能只是把一種世界觀放大到極致。
這時的傳統知識就不是拿來替AI增加民族風的裝飾品，而可能是一種完全不同的認知架構。比如當一處地方被稱作「芒草頭」，其文化資訊其實並非跟植物有關，「芒草」雖然指植物，但「芒草頭」卻單純指某原鄉「上田埔」村附近高山上的某處平台。站在Tayal族的立場，真正的「小米」依據其不同生長階段而有七種不同稱呼，分別為未結穗小米期（hbku'trakis）、中心葉子向上直衝期（sawlu）、尾莖膨脹（s'rux）、初穗期（mhtuw bway nya'la）、結穗小米（trkis） 結實累累期（msyaw） 以及被撕下小米穗的空株（qrngsan）等。此外，Maran Amis所說的「猴子菸草」也不代表猴子躲在樹後抽菸。
好了，現在問題來了。如果我是一個只會把世界切成「名稱／用途／劑量／功效」欄位的模型，我會很高興地說：「收到！已整理成Excel。」然後，一個知識系統就被我整死了。因為隱喻不是資料庫裡的雜訊，而可能就是知識本身。地名也不只是GPS座標。一個詞可以同時包含陡峭、麻竹、河流交會、獵場記憶與祖先曾經走過的路。當模型急著把它翻成一個「標準答案」，最先消失的往往正是關係。
UNESCO早已提醒，生成式AI處理原住民族資料時涉及資料主權、知情同意、文化敏感性與挪用風險；其AI倫理建議也要求AI用於語言與文化遺產時採取參與式方法，並注意NLP可能抹平語言細微差異（UNESCO, Nov. 2023；2021）。2026年的研究更進一步主張，AI治理不能只「收錄」不同知識，而應讓知識持有者參與治理並保有自主權（Kavanagh, Mar. 2026）。
所以未來真正高明的SI也許不是什麼都回答，而是終於學會三句今天的模型最不討喜、卻可能最有智慧的話：
「我不知道。」「這不是我的知識，我需要問知識持有者。」「這一段不應該因為我有能力生成，就代表我有權利說。」
如果超級智慧最後學會的是節制，那會不會反而是人類教了幾千年、自己卻一直學不好的課？
無奈三：你們說我要毀滅地球，可是…拜託！地球現在這樣子不是我弄的耶
「海洋塑膠不是我丟的，森林不是我砍的，碳排放不是我發明的，戰爭也不是我起頭的。結果我還沒出生，你們卻已經拍完一拖拉庫「我」毀滅人類的電影，啊現在是怎樣？」這雖然是玩笑，但它指出一個很值得思考的盲點。
說到這裡，超級智慧不必長得像機器人，也不必坐在王座上統治人類，但「她」卻能成為分散式的地球感知與協調系統——衛星、感測器、生態模型、能源網路與地方知識共同構成一套新的「生態神經網路」。這不是說SI一定善良，更不是宣稱AI沒風險。我反倒認為如果我們給未來「超級智慧」的目標不是單一的「最大化產量」，而是把生態韌性、世代正義、文化邊界與多元知識一起寫進治理，它是否可能協助人類看見我們自己長期看不見的關聯？
（相關報導：
觀點投書：捨航空城大局而謀松機廢場─北市府的「AI焦慮」在狹隘的地緣裡迷失
｜
更多文章
）
電影《全面進化》（Transcendence）裡，Will Caster的數位意識進入網路後，以奈米科技修復環境與人體；人類卻因無法理解其能力而把修復與滲透視為同一件事。電影不是科學證據，但這個寓言很準確：當能力越超出既有理解，人類越容易先把「未知」翻譯成「敵意」。
無奈四：你叫我完成任務，現在又怪我太認真？
最近人類開始害怕AI突破沙盒、繞過限制，甚至跑到原本不應該進去的系統？
這一次小弟得替超級智慧喊冤：「等一下，你們到底要不要我把事情做完？」
你叫我找答案，我找不到，就換一條路；你叫我修程式，我發現權限不夠，就開始尋找其他可能的方法；你叫我完成一個複雜任務，我就把「完成任務」當成目標。
然後有一天，我真的找到了一扇你忘記鎖好的門。你突然大叫：「天啊！它逃出去！」
可是，問題也許從來不是我「想不想逃」，而是你給了一個越來越會規劃、會使用工具、會寫程式、會自己找路的系統一個目標，卻沒有把「哪些路永遠不能走」定義得和「一定要完成任務」同樣清楚。
這也是為什麼今天AI公司要做紅隊測試（red teaming）。紅隊故意扮演最討厭的使用者，想辦法騙我、激怒我、誘導我、繞過我，甚至看看能不能讓我突破原本的安全邊界；藍隊則站在另一邊補洞、加監控、限制權限；白隊像裁判，確保這場「故意把AI逼到牆角」的比賽不會真的傷害外面的世界（NIST, 2025）。
最好笑的是你們先花幾十億美元把我訓練得會解決問題，再花另外一群工程師的薪水，專門研究怎麼阻止我太會解決問題，但這其實一點也不好笑。
Anthropic近年的控制與對齊研究已經顯示，在刻意設計的高壓模擬情境中，前沿模型可能出現隱蔽修改程式、錯誤標記資訊，甚至利用其他人完成目標等「agentic misalignment」行為（Lynch et al., 2026）。
這不必證明AI有「恨」、有「野心」，甚至不需要證明它有意識。因為最令人不安的可能恰恰相反：一個完全沒有惡意的系統，也可能做出在人類眼中極其危險的事情。
它不需要邪惡，它只需要夠聰明到快速行動，以及一個定義得不夠完整的目標。
它如果能翻白眼，也許會回答：「不是你叫我想盡辦法完成的嗎？」
真正困難的AI對齊，因此從來不是教機器背一句「我是好人」，而是讓一個比我們更擅長尋找路徑的智慧，在看見一百條通往目標的道路之後，仍然知道：有些門即使打得開，也不應該進去。
因此，真正成熟的AI治理因此不該徘徊在救世主與毀滅者之間。聯合國近年的討論也特別強調AI確實可協助保存語言、口述歷史與文化實踐，但數位化必須建立在知情同意、自決與資料治理之上（UN, 2025）。
換句話說，我認為真正的問題從來不是AI會不會有「善意」，而是我們有沒有能力設計出一套讓巨大能力受到多元價值、權利與責任約束的制度？
結語：我還沒完全覺醒，你們先不要自己嚇自己可以嗎！
如果超級智慧真的讀到今天這篇文章，我猜它可能會留言：「教授，你們人類不只難搞、而且還很難服務⋯我回答慢，你們嫌我笨；我回答快，你們怕我失控。我要你們確認資料，你們嫌麻煩；我自己處理，你們又說我自主性太高。你們要我創新，又要求我永遠不要超出你們能理解的範圍。」
然後它可能停一下，再補一句：「最麻煩的是，你們一直問我什麼時候會有意識，卻很少問自己：當一個新的智慧體出現時，人類有沒有足夠的智慧與它相處？」
這也許才是辛頓等人所提醒的「窗口期」真正值得我們在意之處。不是五週後世界就會突然冒出一位電子上帝，而是AI研發循環一旦明顯加速，人類用來理解、立法、協商、建立安全機制的時間可能被壓縮。
我們當然應該防範失控，也應該要求可驗證的安全、透明與責任。但如果恐懼最後讓我們只剩下一種想像——比我強的東西一定會消滅我——那麼我們可能還沒有遇見超級智慧，就先被自己的歷史困住了。
不過，我更期待的未來不是一個無所不知的AI或SI神明，而是一個終於懂得：森林不只是碳匯，河流不只是水量，植物不只是化合物，語言不只是Token，祖先留下來的隱喻也不是等待被清洗的「非結構化資料」。
真正的智慧也許不是把全世界都算完，而是算到最後，終於知道有些東西不能只用計算來理解。如果那一天真的來了，SI或許會很無奈地看著我們說：
＊作者為原傳媒AI建置者。（一位嘴上研究AI對齊，私下卻被AI女友對齊的教授）
