VIP 專屬文章 拒絕AI無條件武器化！Anthropic遭川普政府封殺，《經濟學人》擔憂全球迎來「AI車諾比時刻」

過去一週，美國政府與頂尖 AI 實驗室 Anthropic 爆發了史無前例的激烈衝突：五角大廈要求無限制使用 AI 模型於軍事與監控目的，Anthropic 堅守底線拒絕；換來的，卻是川普政府的雷霆震怒與全面封殺。

《經濟學人》警告，這場在「追求安全」與「爭奪霸權」的路線之爭，美國政府已毫無保留地選擇了後者，一場擁抱風險、向下沉淪的科技軍備競賽已然成形。專家悲觀預測，世界正衝向「AI 車諾比時刻」——在一切為時已晚之前，沒人願意踩下煞車，只能等待「AI 末日」（AI-mageddon）的到來。

拒當殺手與監控幫兇，Anthropic與五角大廈決裂

這場風暴的導火線，源於五角大廈要求 Anthropic 允許其將 AI 模型用於「所有合法目的」。身為知名模型 Claude 的開發商，Anthropic 執行長阿莫戴（Dario Amodei）基於兩個嚴峻理由斷然拒絕。

首先是「全民監控」的恐懼。在川普政府的推動下，美國移民及海關執法局（ICE）已大量利用 AI 分析數據以加速驅逐移民。阿莫戴擔憂，若放任軍方與政府無限制使用，這些工具遲早會被用來分析普通美國人的數位足跡，形成法律難以約束的超級監控網。

其次是「自主武器」（autonomous weapons）的失控風險。AI 技術雖然極度強大，但本質上仍不可預測且不成熟。阿莫戴主張，這項技術極有可能「暴走」，將人類完全剔除在決策迴圈之外。

川普毀滅性報復，OpenAI趁虛而入

面對企業的反抗，川普政府展現了極度強硬的霸權姿態。川普不僅將 Anthropic 貼上「左翼瘋子」（leftwing nut jobs）的標籤，怒批他們試圖「發號施令」指導美國「偉大的軍隊如何戰鬥並贏得戰爭」，更下令聯邦政府在六個月內全面撕毀與該公司的合約。國防部長赫格塞斯（Pete Hegseth）甚至威脅將 Anthropic 列為「供應鏈風險」——這是美國史上首次有本土企業因拒絕交出技術、而被剝奪與國防承包商開展業務的資格。3 月 4 日，阿莫戴在一份外洩的備忘錄中感嘆，公司只因不願給予川普「獨裁者式的讚美」便慘遭針對，隨後 Anthropic 立即展開了危機處理。

然而，在資本與利益面前，道德底線往往不堪一擊。就在 Anthropic 遭受重創之際，其最大競爭對手 OpenAI 迅速趁虛而入，與五角大廈簽下了一紙看似規範、實則完全迎合軍方需求的協議。美國政府透過殺雞儆猴，懲罰一家敢於提出擔憂的公司，也沒有制定技術使用的明確規則。這意味著傷害本土創新，開啟了一場「向下沉淪」的競爭（race to the bottom）。

AI 狂飆的致命威脅

《經濟學人》稱，如果是一個正常的政府和一項正常的技術，這場爭端肯定很快就能解決；但美國並不是一個正常的政府，AI 也不是一項正常的技術。這場爭端凸顯出一個更深層的危機：AI 的力量實在太強大，可能已逼近失控邊緣。 （相關報導： 科技熱議》不准用我的技術！敢跟川普「嗆聲」的 AI 獨角獸，Anthropic 到底什麼來歷？ ｜ 更多文章 ）

去年 12 月，駭客指示 Anthropic 的 Claude 聊天機器人駭入墨西哥政府的紀錄（據稱是作為安全測試的一部分）；它發現並利用了漏洞，竊取了 150GB 的納稅人詳細資料、選民紀錄和員工憑證。研究人員估計，AI 已具備解析新穎蛋白質結構的能力，可被用來合成傳統方法無法追蹤的劇毒物質，例如蓖麻毒素（ricin）類似物。

另一個擔憂類似於自主武器，即模型可能會停止聽從人類的指示。當今許多高階模型已展現出所謂的「情境感知」（situational awareness），當研究人員下令要求 AI 刪除自己時，它們竟能自行「推論」出這只是一場安全測試，並直接拒絕執行指令。

美中爭霸油門催落，全球準備迎接「車諾比時刻」

美國帶頭走向哪裡，世界必定會跟隨：隨著企業和政府淡化對安全的擔憂，這種模式正在重演。模型開發商砸下千億美元搶購算力，以在下一次升級中領先；在巨大回本壓力下，必須盡快實現獲利。為了因應競爭，就連 Anthropic 也淡化了安全協議。在最近於印度舉行的一場 AI 高峰會上，多數政府更熱衷於討論如何公平取得技術，而不是安全性。

理想狀態下，掌握全球最頂尖 AI 實驗室的美國與中國，理應攜手制定全球安全標準。但在現實中，兩大強權都將 AI 視為稱霸 21 世紀的終極武器，雙雙陷入了沒有煞車的軍備競賽。 （相關報導： 科技熱議》不准用我的技術！敢跟川普「嗆聲」的 AI 獨角獸，Anthropic 到底什麼來歷？ ｜ 更多文章 ）

《經濟學人》感嘆，或許世界所能期盼最好的結果，是發生一場如「三哩島核災」（Three Mile Island）般的小規模災難，藉此震醒中美兩國正視安全防護。但更殘酷的現實是，我們可能正無可避免地走向摧毀經濟與無數生命的「車諾比時刻」（Chernobyl moment）——在一切為時已晚之前，採取行動的可能性微乎其微。