AI太強不能讓外人用？Anthropic被迫關閉新模型，只因美國害怕被駭客濫用 | 李靖棠

美國AI巨頭Anthropic傳出遭到華府出手限制，以可能影響國家安全、給予他國敵人攻擊漏洞為由，下令要求這家大廠立即限制使用權限和範圍，該指令嚴厲禁止任何外籍人士，接觸或使用由他們研發的兩款新型生成AI系統，面對這個突如而來的限制，Anthropic沒有其他更好辦法，只能直接切斷下架，暫停Fable 5與Mythos 5兩款模型的存取權。

彭博報導指出，前述提及的政府命令，是由美國商務部長盧特尼克（Howard Lutnick）親自簽發的「出口管制指令」（Export control directive），直接發送給 Anthropic執行長阿莫迪（Dario Amodei）的總部辦公室桌上。

「聯邦政府援引國家安全最高權限，對我方旗下Fable 5和Mythos 5兩種AI模型下達緊急出口管制令，強制要求暫停任何外籍人士對模型的存取使用權，不論其身處美國境內或境外，這範圍甚至包含不具備美國公民身分的Anthropic外籍科學家與員工。」

由於限制範圍相當廣泛，在技術上根本無法在短時間內，精確過濾出用戶與員工的國籍，為了避免觸犯聯邦刑責，Anthropic被迫採取最原始的解決手段：直接斷網、停止所有客戶對兩款新模型的存取權限，僅維持舊有Claude系列模型的運作。

而《金融時報》（Financial Times）則在報導中披露更多內幕，他們表示，川普（Donald Trump）政府之所以在週五深夜啟用管制大棒，是因為有聯邦安全官員在悄悄內測Anthropic研發的「Mythos 5」模型時，驚覺該系統存在一項「越獄」（Jailbreak）能力，可以繞過系統找到漏洞，官員擔心此機制極有可能被敵對勢力惡意利用，如不小心很可能對全球金融系統或基礎設施，發動毀滅性的網路安全偷襲。

Mythos具備癱瘓全球基礎設施能力？

據了解，白宮國安團隊與多個聯邦機關，早在Mythos模型本週正式對外公開發布之前，就已依規定先行取得模型權限，開始一連串壓力測試。透過這些測試，才有後面聯邦官員發現繞過安全防護的「越獄」後門。官員示警白宮，稱此漏洞一旦被惡意組織掌握，能將AI系統轉化為軍事級駭客工具，精準找出並癱瘓全球大宗商品與金融網路。

但這過程的時間點，卻讓外界感到懷疑，因為白宮很早就開始針對新模型展開祕密測試，但他們在發現可能的威脅時，卻沒有第一時間阻止Anthropic上架新模型。

如果從另一層面推敲，很可能與總統川普新簽署的AI行政命令有關，命令內並未賦予行政機關有直接「未審先判、封殺上架」的強制執行權，只建立一個脆弱的自願性審查框架。對此，商務部長盧特尼克（Howard Lutnick）才會繞過該行政命令，直接引用位階更高的《出口管制法》下達外籍人士禁令。（相關報導：人人都想上車！SpaceX上市倒數，市場湧入4倍發行量超額認購申請｜更多文章）

面對美國政府的禁令，Anthropic除了第一時間緊急做出回應，在深入了解官員聲稱的越獄漏洞後，公司團隊非常憤怒，因為這個指控，本質上就是許多人熟悉的操作方式：透過輸入特定提示詞，引導AI模型去深度閱讀某一特定軟體程式碼庫，並抓出內部底層可能存在的軟體漏洞。