AI代理愈聰明，資安風險也愈高！NVIDIA攜微軟、思科、IBM等30多家企業成立開放安全AI聯盟

近期國內外資安事件接連發生，從Fortinet防火牆設備及VPN憑證外洩事件，致使台灣約90家企業的網路存取權限遭到兜售，其中包括緯創（3231）、友訊（2332）、瑞昱（2379）、上銀（2049）等多家上市櫃公司，到國際間接連出現AI模型、開源平台與企業系統遭攻擊事件，在在凸顯企業面臨的資安風險正快速升高。隨著AI代理（AI Agent）開始具備自主執行任務、存取企業資料及操作工作流程的能力，如何建立可信任的AI安全架構，也成為生成式AI邁向企業應用後的新課題。在此背景下，NVIDIA宣布攜手微軟、IBM、思科（Cisco）、Adobe等超過30家科技與資安企業，共同成立「開放安全AI聯盟（Open Secure AI Alliance）」，希望透過開放模型、工具與方法，共同打造AI時代的安全防禦基礎。

NVIDIA指出，AI代理正快速從聊天機器人演進為能自主執行工作的智慧代理，不僅可讀取企業文件、操作內部系統、呼叫API，甚至能串接不同應用完成複雜工作流程。這也意味著，一旦AI代理遭到入侵、誤導或惡意操控，衝擊將不再侷限於資料外洩，而可能直接影響企業營運與關鍵基礎設施。

NVIDIA指出，過去資安防護多聚焦於伺服器、終端設備與雲端環境，但AI代理時代來臨後，企業需要建立一套新的安全治理架構，涵蓋模型、代理執行框架（Harness）、身分驗證、權限控管及行為監測等完整防護能力，才能因應新型態威脅。

此次成立的「開放安全AI聯盟」集結來自AI、雲端、企業軟體、資安及開源社群等超過30家創始夥伴，包括NVIDIA、Adobe、Capital One、Cisco、CrowdStrike、戴爾科技集團（Dell Technologies）、IBM、Linux Foundation、微軟、OpenClaw、Salesforce、SAP，以及SpaceXAI等企業，並延伸涵蓋Cloudflare、Hugging Face、Palo Alto Networks、Snowflake、西門子（Siemens）、新思科技（Synopsys）等業者。

聯盟的目標是共同開發並分享開放技術、方法與工具，協助企業建立AI代理與軟體系統的安全防護能力，同時延續Linux Foundation過去在Akrites計畫與OpenSSF社群累積的成果，透過開源方式提升漏洞修補、威脅揭露與整體資安韌性。

（相關報導： 量子威脅還沒到，資安攻防已進入機器速度！思科Live Protect、混合網格防火牆強化AI時代防線 ｜ 更多文章 ）

相較於成立聯盟本身，NVIDIA此次公布的技術布局更受到市場關注。NVIDIA宣布，將向聯盟開放模型、模型權重、資料，以及全新的代理Harness研究成果，其中最重要的是新開源專案「NVIDIA Labs Object-Oriented Agent（NOOA）」。該研究框架可讓代理Harness與AI模型進一步整合，使企業更容易對AI代理的行為進行測試、追蹤、稽核與管控，加速開發新一代AI資安工具。

NVIDIA指出，AI代理並非僅由大型語言模型（LLM）構成，而是結合模型、Harness及多項安全控制機制所形成的完整系統，因此未來AI安全治理的核心，不再只是提升模型能力，而是建立可驗證、可管理、可追蹤的代理執行環境。

除了NVIDIA外，聯盟成員也同步貢獻各自的AI安全技術。

例如，微軟提供MDASH多模型代理掃描Harness，可協調多個AI代理發掘、驗證並分析潛在漏洞；IBM與Red Hat則推出Lightwell，以數位簽章技術強化開源軟體供應鏈安全；HPE貢獻SPIFFE／SPIRE零信任身分驗證架構，確保AI代理與企業服務間的通訊安全；Hugging Face則提供Safetensors安全模型格式，提高模型透明度並避免遠端程式碼執行風險；SpaceXAI則宣布將終端機AI程式設計代理Grok Build開源，並計畫逐步開放Grok系列模型權重，提供開發者與研究社群使用。

對於近年圍繞開源AI模型安全性的討論，NVIDIA認為，真正影響AI安全的關鍵並非模型權重是開放或封閉，而是整個AI代理堆疊（AI Agent Stack）是否具備完善治理能力。

NVIDIA指出，真正的AI安全必須涵蓋身分識別、權限管理、Harness、防護機制、操作紀錄與安全評估等完整架構，而非僅聚焦於模型本身。開放式Harness與安全工具，也有助於更多防禦人員檢視、測試及改善AI控制機制，提升整體防禦能力。

開放安全AI聯盟也呼籲，各國政府及監管機構在制定AI政策時，應將開放模型、Harness及相關安全工具視為重要的防禦資產，而非單純視為潛在風險，並鼓勵企業與政府共同投資資料集、攻擊模擬、評估框架及紅隊演練等共享AI安全基礎設施，建立更具韌性的AI防禦能力。

（相關報導： 量子威脅還沒到，資安攻防已進入機器速度！思科Live Protect、混合網格防火牆強化AI時代防線 ｜ 更多文章 ）

從近期Fortinet VPN憑證外洩事件，到企業AI代理應用快速普及，都反映企業資安防線正從傳統網路設備、身分驗證與終端防護，逐步延伸至AI應用層。對產業而言，未來AI競爭已不再只是比GPU算力或模型能力，更將進一步延伸至AI安全、代理治理與企業級基礎設施。NVIDIA此次號召超過30家企業共同成立開放安全AI聯盟，也顯示全球AI產業布局正邁向下一階段，開始圍繞「可信任AI（Trustworthy AI）」與「AI Security」建立新的競爭力。