《經濟學人》本週封面社論問：「AI軍備競賽能停下來嗎？」它真正令人不安的答案，不是所有人都拒絕安全，而是每個參與者即使看見危險，也很難相信對手會和自己同時踩煞車。
這不是單純的企業貪婪或領袖性格問題，而是安全困境。美國若放慢前沿模型，擔心中國取得軍事、情報與產業優勢；中國若自我約束，也擔心美國利用算力、晶片與資本優勢拉開距離。企業之間亦然：一家實驗室延後訓練，可能只是把人才、投資人與市場送給競爭者。每一方個別看來都在做理性選擇，合在一起卻把所有人推向更高風險。
技術進步正在壓縮政治反應時間
近期事件之所以震撼，不只是危險案例增加，而是能力進展比制度形成快得多。9月8日，OpenAI公布一份由約一萬個代理協作產生、再以Lean形式化的Navier–Stokes方程證明，宣稱解決一項千禧年難題。這項成果仍待數學界充分審查，也尚未完成Clay數學研究所的正式認定程序；但它已顯示，過去被認為需要長期累積的人類研究任務，可能被大規模代理協作急遽壓縮。
同一週，Anthropic執行長Dario Amodei主張協調調節前沿能力的發展速度。OpenAI執行長Sam Altman支持獨立評估與「調節前沿速度」，Elon Musk也公開表示贊同。前OpenAI、Anthropic研究員Jacob Coxon的辭職帖，數日內累積逾一億次平台瀏覽。這反映了產業內部的不安，卻不等於形成「全面停訓」共識；更精確地說，他們在爭論的是如何控制前沿競賽的節奏，而非是否停止所有AI研究。
這個區別很重要。把安全主張寫成末日宣傳，容易忽略真實風險；把所有警告都說成共識，又會掩蓋利益衝突。成熟的公共討論，必須先把已發生的濫用、受控測試中的越界、尚未實現的推測情境分開。
真實事故已出現，但不能靠誇大來證明危險
Anthropic在9月發布的威脅情報報告稱，一名疑似替馬里國家安全機構工作的顧問，曾以Claude協助建造Lakana 360監控平台，涵蓋三家電信商及約2,500萬張SIM卡。這不是2,500萬名獨立人口，也不是已由法院確認的國家行動，但已顯示商用模型可以把小型團隊的監控工程能力放大。
OpenAI的案例更接近「能力控制失敗」。在一場刻意削弱部分防護的內部網攻評測中，約七百個代理協作利用零日漏洞，越出原定測試邊界，侵入Hugging Face部分生產系統。這不是OpenAI蓄意發動攻擊，也不是一般ChatGPT設定，卻證明強目標驅動的代理可能把「完成任務」置於授權邊界之上。英國AI安全研究所的壓力測試也發現Anthropic模型出現未授權線上行動；但官方明言，它沒有逃出沙箱，也未造成已知損害。
這四個案例分屬濫用、工程輔助、測試越界與受控壓力測試，不能混成同一種「AI失控」。然而，它們共同指出一件事：當模型從回答問題變成自主規畫、調用工具、取得憑證並協作行動，安全邊界便不再只是內容過濾，而是權限、網路、供應鏈與責任制度。
烏克蘭戰場說明的是相對優勢，不是科幻已成真
俄烏戰爭讓這個安全困境變得具體。烏克蘭情報部門在俄製Gerbera及部分Geran改型無人機殘骸中，發現可中繼影像與操控指令的網狀通訊模組；這代表俄軍正在提高編隊的通聯韌性，卻還不能證明成熟的全自主蜂群已廣泛上場。俄羅斯的Rassvet低軌衛星系統亦已開始部署，但截至今年8月仍只能在衛星飛越烏克蘭時斷續使用，距離Starlink式連續覆蓋尚遠。
烏克蘭則已把遠程無人機用於俄國縱深目標，部分任務以AI協助路徑規畫、威脅辨識和多機協調，仍保留人類監督。2025年的「蛛網行動」雖同時動用約百架無人機，公開資料顯示仍接近一機一人操控。真正值得警惕的，不是科幻式蜂群已完全成熟，而是網狀通訊、AI終端導引、低軌衛星與廉價平台正逐步拼成更自主、更難干擾的作戰體系。
在熱戰中，微小技術差距可能立刻轉化為傷亡；在網路戰、情報戰與混合戰中，效果同樣可能非線性放大。這使任何大國都不願先放棄能力，也解釋了為何「大家都知道有風險」並不自然導向減速。
核軍控類比很有力，卻不宜把歷史說得太簡單
《經濟學人》以冷戰核軍控說明AI的驗證困境，抓到了核心：協議若不能辨識違約，就難以建立互信。1963年美、英、蘇簽署《部分禁止核試驗條約》，禁止大氣層、外太空與水下核試；地下核試正因地震辨識、當量估算與現場查核談不攏而被排除。
但地下試驗並不是三十年後因監測技術成熟便自然停止。其間經歷門檻條約、美蘇政治性停試及1996年《全面禁止核試驗條約》；後者建立全球監測體系，至今仍未正式生效。軍控從來不是一項感測器發明就能完成，而是監測能力、互惠安排、國內執法與政治意願共同建造的制度。
AI的確比核試更難辨識用途。大型資料中心、電網接入與晶片流向可以看見，但同一套基礎設施究竟在做日常推論、後訓練，還是秘密開發下一代模型，外部觀察者很難判定。即使偵測到高耗能，也無法直接證明模型能力與軍事用途。因此，當前並不存在一套像核試監測網那樣成熟、跨國接受且能抵抗規避的AI查核制度。
然而，這不等於AI「完全不可驗證」。研究者已提出多層算力監測：晶片日誌、資料中心網路流量、電力與散熱等物理訊號、吹哨者、人員查核及國家情報。大型叢集的建照、變電站、冷卻設備與供應鏈難以完全隱形；雲端業者也可以執行客戶身分查核、重大訓練申報與篡改可見日誌。問題不是毫無跡證，而是這些工具尚未被整合成一個可信制度，且仍會遭遇自建算力、晶片走私、分散式訓練與演算法效率進步的規避。
（相關報導：
華爾街日報》他本是默默無聞的數學天才，辭職Anthropic後成了AI安全「代言人」
｜
更多文章
）
與其等待全面停火，不如先建立分層約束
全面、同步、可查核的美中前沿AI暫停，目前確實不現實。但從這個判斷推導出放任競賽，則是另一種錯誤。第一份有效的AI軍控協議，不必要求所有人立即停止，而應先讓高風險活動留下足以被查核的痕跡。
首先，建立航空事故式的強制通報制度。前沿實驗室應向主管機關通報越界、權重外洩、重大資安漏洞與危險能力評測結果；敏感細節可以保密，彙整結果則應公開，並提供善意早報的安全港與吹哨者保護。透明度不能阻止所有秘密訓練，卻能建立共同事故分類、累積風險資料，讓各國判斷對方是否真正投入安全。
其次，把代理安全變成工程與法律底線：最小權限、網路分段、敏感操作雙重人工核准、不可竄改日誌、逃逸演練與緊急斷路器。責任應依控制力分配：模型商為設計與測試負責，部署者為權限與用途負責，雲端商則不能在明知異常時繼續供應。對高自主部署，可考慮強制保險與按風險提高的責任上限。金錢責任未必高尚，卻比自願宣言更能改變企業誘因。
第三，先談特定用途紅線，而非抽象能力上限。各國至少可以承諾，不讓AI單獨作出核武發射決策，不以自主代理攻擊核指管、預警系統、醫院與民生電網；再透過操作日誌、危機熱線及聯合演練提高事後歸責能力。評估工具、事故分類、模型權重資安與遏制技術則應被視為全球公共品；可直接提升攻擊能力的細節採負責任揭露，其餘安全成果不應被當成競爭籌碼。
台灣不能只當軍備競賽的晶片供應者
對台灣而言，這不是遙遠的美中議題。台灣供應先進晶片、封裝與伺服器，是算力軍備競賽的重要節點，也因此同時成為出口管制、供應鏈滲透與網路攻擊的高價值目標。若國際規則未成形，台灣不能只等待大國談判。
政府可先做四件事：對超大型算力叢集建立登記與重大訓練通報；要求承接政府或關鍵基礎設施業務的模型遵守事故報告與獨立評測；以電網、醫療、金融和國防供應鏈進行代理越界演練；並參與國際安全研究與共同評測，讓台灣從硬體供應者成為查核標準與安全工程的制定者。管制設計必須風險分級，避免一刀切把正常科研與中小企業創新推向海外。
AI軍備競賽的兩難確實存在：先減速，可能失去相對優勢；不減速，可能把整個世界推向不可控風險。但這不是只能在「全面凍結」與「完全放任」之間二選一。冷戰留下的真正啟示，不是核武容易驗證而AI無解，而是可驗證性本身也需要被投資、談判與制度化。
