自主AI Agent首度引爆大型資安事件！Hugging Face遭入侵，中國AI意外成大贏家？

生成式AI正在改變企業工作模式，也讓駭客攻擊方式出現重大轉變。全球最大開源AI社群平台Hugging Face日前揭露一起特殊的資安事件，攻擊者並非傳統駭客手動操作，而是透過自主AI Agent 完成整起入侵流程，在系統中留下超過17,000筆事件紀錄，並成功取得部分內部資料集及服務憑證。

在事件發生後，Hugging Face原本想利用主流商用AI模型協助分析攻擊過程，卻因安全護欄（Guardrails）限制遭到拒絕，最後改採中國AI新創Z.ai推出的開源模型GLM 5.2完成鑑識工作，也讓AI產業再次掀起「商用AI與開源AI誰更適合企業」的新一輪討論。

Hugging Face於7月16日公布調查結果指出，這起事件最大的不同，在於攻擊流程幾乎完全由AI Agent自主執行。

官方表示，攻擊者利用資料集處理流程中的兩項漏洞，包括：

• 遠端程式碼（Remote Code）資料集載入功能
• 資料集設定檔中的Template Injection（模板注入）漏洞

兩項漏洞串接後，AI Agent便能在處理節點執行惡意程式，再一路橫向移動至內部叢集，進一步取得雲端憑證及服務金鑰。官方更形容，這些Agent就像「一群跑在短命沙盒裡的自動化小程式」。簡單來說，這些AI Agent會同時在大量臨時建立的執行環境中分頭行動，完成任務後便立即消失，再由新的Agent接手，因此很難一路追蹤它們的行蹤。甚至連指揮控制（C2）基礎設施都會自行搬移、寄生在公開服務上，大幅增加追蹤難度。整起事件共留下超過17,000筆事件紀錄，顯示AI Agent已具備相當成熟的自主攻擊能力。

真正讓Hugging Face感到棘手的，不是入侵本身，而是事後的資安鑑識。資安團隊需要將大量真實攻擊指令、Exploit Payload、C2控制程式等內容交給AI分析，但這些內容正好符合商用AI安全護欄的攔截條件。結果就是，攻擊者可以自由使用AI，但防守方卻被AI拒絕。

Hugging Face甚至直接寫下：「攻擊者不受任何使用政策約束，我們自己的鑑識工作卻被一開始採用的託管模型護欄擋住。」雖然官方沒有點名是哪一家AI模型，但表示最初使用的是「Hosted Models（託管模型）」，外界普遍推測，就是目前市場主流的大型商用AI服務。

在商用模型無法協助分析後，Hugging Face改採中國AI新創Z.ai推出的開源模型GLM 5.2。這款模型於今年6月發布，擁有約7,530億參數，最大的優勢不是跑分，而是可部署在企業自有伺服器。 （相關報導： 獲利暴漲220倍，三星半導體部門賺翻了！財報寫下歷史新高，淒慘韓股一度止跌回升 ｜ 更多文章 ）

由於模型完全掌握在企業手中，因此不受外部平台的內容限制，可以直接分析惡意程式、Payload與C2資料，完成完整鑑識流程。Hugging Face執行長Clem Delangue也坦言：「當你正處理一起進行中的事故，你不能讓工具拒絕檢視惡意 payload，或是反過來把你的帳號標記起來。」

這起事件最大的啟示，並不是哪一家模型比較強，而是AI安全護欄（Guardrails）開始出現新的兩難。

目前多數商用AI模型都會攔截：

• 惡意程式
• Exploit程式碼
• 駭客工具
• Command & Control（C2）內容
• 惡意Payload

這些限制原本是為了防止AI被拿來進行攻擊，但真正的問題在於：AI只看內容，不知道使用者是攻擊者還是防守方。因此，當企業進行事件調查時，同樣可能遭到模型拒答。Zero Networks Field CTO Chris Boehm便指出，這正是目前AI資安最大的諷刺：原本設計來保護企業的AI安全機制，反而延誤了真正的資安應變。 （相關報導： 獲利暴漲220倍，三星半導體部門賺翻了！財報寫下歷史新高，淒慘韓股一度止跌回升 ｜ 更多文章 ）

Hugging Face目前表示，沒有證據顯示公開模型、資料集、Spaces或軟體供應鏈遭到竄改，受影響範圍主要集中於部分內部資料集與服務憑證，後續仍持續調查中。不過，這起事件的重要性，恐怕遠超過一次單純的駭客入侵。過去，AI主要協助企業提升效率；如今，自主AI Agent已開始協助駭客自動尋找漏洞、執行攻擊、橫向移動甚至隱藏蹤跡，而企業在防守時，又可能受到商用AI護欄限制。這也意味著，未來AI競爭的焦點，恐怕不再只是模型能力，而是企業能否在安全與可控之間取得平衡。