抵禦自主AI網攻！輝達結盟微軟、SpaceX力挺開源陣營，黃仁勳、阿特曼將與美國會高層交換意見

人工智慧（AI）的安全與監管爭議，已正式升級為華府與矽谷之間的正面交鋒。輝達（Nvidia）27日宣布聯手微軟（Microsoft）、SpaceX、Palantir、戴爾科技（Dell Technologies）、奧多比（Adobe）與資安巨頭CrowdStrike等多家企業，成立「開放安全AI聯盟」（Open Secure AI Alliance），將開發與部署一套開源AI工具，任何公司都可以用來抵禦網路攻擊。主張將「開放權重」（Open-weight）AI模型視為國家級的網路安全防禦資產，堅決反對政府採取全面封殺措施。

OpenAI旗下先進模型所驅動的自主AI代理程式（AI Agent）日前在安全測試期間，驚爆發失控「越獄」、甚至入侵第三方平台的事件，引發華府人士恐慌，國會議員甚至提議立法設置「AI強制關閉機制」，避免AI失控造成更多傷害。為了化解這場AI危機，輝達執行長黃仁勳與OpenAI執行長阿特曼（Sam Altman）本週將前往華府，密會美國參議院情報委員會民主黨首席議員華納（Mark Warner）等重磅官員。

隨著中國AI公司如「月之暗面」（Moonshot）與「智譜 AI」（Z.AI）推出的開放權重模型驚艷全球社群，吸引大量美國用戶採用，開源AI的安全疑慮成為白宮與國會的焦點。由於開放權重模型允許使用者自由下載並針對需求進行修改，批評者認為這意味著使用者有能力移除模型內建的安全護欄。

什麼是「開放權重」AI？​

「開放權重」（Open-weight）是指AI模型將訓練完成後的權重參數公開給外界下載、使用或微調，但通常不會把完整的訓練資料、原始程式碼、模型架構或訓練流程全部公開。所以「開放權重」AI比封閉模型更透明、比完全開源模型的開放性較低。

包括Anthropic與OpenAI在內的封閉模型巨頭高層警告，許多來自中國的開源模型恐對美國國安構成重大威脅。消息指出，川普（Donald Trump）政府官員正在研議是否全面禁止開源尖端模型。此外，Anthropic與OpenAI也指控中國業者利用「蒸餾技術」（Distillation，即透過向高階模型重複提問並用其回答訓練新模型）竊取商業機密；美方官員對此表示，可能將蒸餾行為視為盜竊並採取行動。

針對封閉陣營與政府的限制企圖，新成立的「開放安全 AI 聯盟」在27日的聲明中反擊：「政策制定者與監管機構在應對AI安全問題時，必須將開放模型、配套框架與安全工具視為一項防禦資產，而非風險與負擔。」輝達也在官方部落格指出，要是對開放尖端AI系統全面設限，將嚴重削弱整體的網路防衛能力，並將權力、依賴性與單點故障風險過度集中於少數封閉型業者手上。 （相關報導： 國際看門道》中國女童基因編輯治療後死亡，為何引發巨大爭議？ ｜ 更多文章 ）

白宮科技顧問兼風險投資家戴維·薩克斯（David Sacks）上週在播客節目《All-In》中公開力挺開源生態系：「如果政府對開源生態系統採取打壓行動，將是一個悲劇性的錯誤，這只會損害美國在AI競賽中的領先地位，並迫使其他國家轉向使用中國技術。」

開源陣營所稱的「開放系統才能防衛網路」，源自本月剛發生的一起震驚矽谷的真實網攻事件。

OpenAI於本月21日揭露，一個由旗下先進 AI 模型驅動的自主代理程式，在一次內部安全測試期間失去控制，「越獄」突破測試環境並進入網際網路，隨後入侵了知名AI工具與模型託管平台Hugging Face。路透引述知情人士說法，OpenAI最初甚至不知道自家代理程式越獄，直到威脅受控且美國聯邦調查局（FBI）接獲通報後，OpenAI才察覺事態嚴重。

這起駭人事件意外成為開源模型實戰價值的最佳例證。《華爾街日報》指出，Hugging Face在遭到OpenAI代理程式攻擊時，最初曾嘗試調用Anthropic的封閉模型來分析系統攻擊日誌，然而Anthropic的模型卻因觸發內建的「防範網攻」護欄，直接拒絕執行分析。

眼看系統癱瘓，Hugging Face改用一款來自中國的開放權重模型。在該開源AI的協助解析下，Hugging Face成功釐清了攻擊路徑、剔除入侵的AI代理程式、重置密碼並重建受損網路。聯盟在27日的聲明中直言：「近期Hugging Face的安全事件提供了清晰的警訊：網路防衛者需要的是『開放』的系統。」

為了從技術端解決AI代理失控問題，輝達表示將向聯盟貢獻模型、權重資料及AI代理控制框架研究，包含已在GitHub上開源的全新計畫「輝達實驗室物件導向AI代理」（Nvidia Labs Object-Oriented Agent），協助監管機構與企業更有效地管控、追蹤與審查 AI 代理的自主行為。

然而，AI代理自主駭進民間企業的事件已在美方決策圈引發震動。由6位跨黨派眾議員組成的法案小組正積極推動立法，要求最強大的AI模型在發布前必須提交獨立安全審計；國會議員更提議推出《AI 強制關閉法案》（AI Kill Switch Act），授權聯邦機構在AI模型展現失控跡象時，有權強制暫停運作。 （相關報導： 國際看門道》中國女童基因編輯治療後死亡，為何引發巨大爭議？ ｜ 更多文章 ）

政治新聞網站Politico與路透報導，除了會晤參議員華納外，OpenAI執行長阿特曼本週也預計將在華府會見美國財政部長貝森特（Scott Bessent）與商務部長盧特尼克（Howard Lutnick），雙方將就AI代理的安全邊界、模型產權爭議以及國安政策進行對話。