AI 太聰明也會出事？全球專家喊卡「超智慧」，擔心人類有天會被自己取代

想像一下，您的手機、辦公室、甚至家中冰箱的語音助理突然擁有比人類更強的思考能力，而這場「智慧革命」可能比您想像得還快抵達，而台灣的企業、學術研究場域，甚至政府法規，恐怕也正處於這股浪潮的邊緣。最近，由 Future of Life Institute（FLI）發起的一封公開信，引起全球關注：來自科技、學界、政界甚至名人的數百位簽署者，呼籲暫停「超智慧人工智慧」（superintelligent AI 或稱 ASI）開發。這場關於「讓 AI 留在人類可以控制範圍內」的倡議，不僅是未來科幻的想像，更可能與台灣的產業升級、監管治理、人才培育都息息相關。

三大重點摘要

• 全球超過 700 位科學家、受獎者、名人簽署公開信，要求暫停開發能在所有認知任務超越人類的 AI 系統，直到證明其可控且安全。
• 簽署者包含 AI 先驅如 Yoshua Bengio、Geoffrey Hinton，以及科技界與政界名人，顯示對這項議題的跨界擔憂。
• 對台灣而言，這場運動可能促使政府與業界重新檢視 AI 監管框架、產業應用方向，以及在全球 AI 競賽中的定位與風險。

為何要暫停「超智慧 AI」的開發？

這次公開信清楚指出，一旦 AI 系統在「幾乎所有認知任務」上超越人類（即所謂的 Artificial Superintelligence 、簡稱 ASI），其風險可能涉及經濟失衡、自由喪失、甚至人類尊嚴被挑戰。信中明言：「We call for a prohibition on the development of superintelligence, not lifted before there is broad scientific consensus that it will be done safely and controllably, and strong public buy-in.」
從台灣視角來看，這樣的焦慮不僅是大型科技公司才需要面對；無論新創、半導體、自動化產線、智慧機器人，皆有可能成為「AI 超進化」的實驗場。若控制機制不足，對勞動市場、產業移轉、資安風險的衝擊，同樣值得關注。

誰在發聲？這次的簽署者有哪些特別背景？

此次聯署陣容極具代表性，既有「AI 之父」級人物，也有政界及娛樂圈知名人士。包括 Nobel 獎得主、蘋果共同創辦人 Steve Wozniak，以及英國王室成員 Prince Harry 和 Meghan Markle 等。

這樣的跨界簽署，透露出兩點訊息：

第一，對 AI 超智慧的擔憂已從學界擴散至公眾與文化圈

第二，科技巨頭與研究實驗室目前並未全面參與這次呼籲，顯示「內部競賽」與「外部監管」之間存在明顯張力。

對台灣而言，這意味著政府、企業與學界三方在 AI 發展路徑上的協調將更為關鍵。若缺乏跨部會整合或企業共識，可能面臨「跟進但監管落後」的風險。 （相關報導： 你每天看的AI新聞可能是錯的！ 全球研究揭ChatGPT、Gemini錯誤率近五成 ｜ 更多文章 ）

台灣產業如何面對這波監管與風險？

當全球對超智慧 AI 呼籲暫停發展，台灣產業並非置身事外。先從製造、自動化、半導體三大領域觀察：台灣廠商在生產線導入 AI、機器人與資安風險控制上領先亞洲。但若 AI 技術快速朝「超人類智慧」邁進，而產業界缺乏相應法規、倫理與安全評估機制，則可能出現三項潛在問題：一、產線自動化過快造成職位大幅減少；二、AI 系統決策黑箱化，難以追蹤出錯原因；三、台灣作為全球供應鏈一環，若被國際監管要求設置安全停機機制或透明度審查，可能增加成本。

國際合作與監管趨勢，台灣不能忽視哪些方向？

這封公開信再次凸顯，一場全球性 AI 競賽正轉為「治理競賽」。專業論文指出，若沒有國際協作與「全球計算能力上限（global compute cap）」等機制，國與國之間、企業之間的「AI 軍備競賽」將導致風險急速升高。對台灣而言，這意謂著不只是自身技術發展的機會，更應重視與歐美、亞洲先進國家的政策對話與合作，例如參與國際 AI 安全標準制定、與跨國公司共同打造可追蹤、可審查的 AI 系統。若台灣缺席這樣的監管潮流，未來在出口、資金流、人才流動將可能遭遇壁壘。

從科技夢想到現實挑戰

當 AI 不再只是工具，而可能成為「超越人類智慧」的存在，這場技術競賽也同時變成一場治理與倫理的挑戰。這封來自 Future of Life Institute 的公開信提醒我們：科技創新固然重要，但是否伴隨透明、安全、可控，才是關鍵。對台灣來說，這不只是遠在美國的新聞，而是牽動產業方向、人才政策、國際競爭力的即時議題。正如信中所言：如果在真正可控之前就放任賽跑，可能連第二次機會都沒有。 （相關報導： 你每天看的AI新聞可能是錯的！ 全球研究揭ChatGPT、Gemini錯誤率近五成 ｜ 更多文章 ）

文章來源： Open letter demands superintelligence freeze​