如何強化代理式AI安全管理？Arm 攜 NVIDIA，以 CPU、DPU 分工執行與監控

當AI開始自主使用工具、存取資料並採取行動，企業如何掌握代理的操作權限，並在出現不安全行為時及時介入？Arm今（30）日宣布將與NVIDIA合作推進代理式AI安全的架構：由Arm CPU執行代理工作負載，基於Arm架構的DPU（資料處理單元）則在主機之外提供獨立監控、策略管控與隔離能力，將代理執行與安全防護分工處理。

Arm指出，AI代理不僅能生成答案，還能持續運作、使用工具及存取資料。隨著代理能力提升、同時運作的數量增加，基礎設施需要兩類運算資源：一類負責執行代理，另一類負責保護代理。NVIDIA開放式AI代理安全平台（NVIDIA Open Agent Safety Platform），便是這種架構的具體應用。

在代理式AI基礎設施中，CPU負責支援代理執行環境、工作編排、工具執行及各類應用。代理愈能持續運作，且開始大規模並行執行任務，對CPU運算資源的需求也隨之增加。

NVIDIA OpenShell則為代理建立安全執行邊界，控制其可存取的資源及可執行的操作。Arm指出：「OpenShell 為 AI 代理建立安全的執行環境邊界，管控 AI 代理可存取的資源以及可執行的動作。」

也就是說，CPU支援代理完成任務，OpenShell則在執行環境中管理權限，讓代理的工具使用與資料存取受到策略約束。Arm表示，這套安全執行方式可延伸至多元的Arm雲端運算與AI基礎設施。

除了代理本身的執行環境，Arm認為，基礎設施還需要獨立運算資源，在代理運作的環境之外進行觀測、隔離與策略管控。

基於Arm架構的DPU與基礎設施處理器，可將網路、監測、隔離及安全服務從主機CPU分離，建立獨立控制層。這使安全控制能夠持續運作，並與其所保護的代理及應用維持獨立。

NVIDIA BlueField-4由搭載64個Arm Neoverse V2核心的NVIDIA Grace驅動，提供主機之外的基礎設施環境。OpenShell可與部署在BlueField上的NVIDIA Sentry協同運作，將策略執行從代理執行環境延伸至獨立的信任域，讓基礎設施與網路安全控制獨立於代理運作。

Sentry扮演即時監控機制，持續觀察代理行為，並可在發現不安全行為時進行隔離。這套架構因此涵蓋執行環境內的權限管理，以及環境之外的持續監測與隔離，形成系統層級的安全管控。

Arm列舉的CPU生態系包括Arm AGI CPU、Amazon Graviton、Google Axion、Microsoft Cobalt，以及NVIDIA客製化開發的Vera CPU。這些產品採用不同架構設計，但皆與Arm軟體生態系相容，OpenShell可將代理的安全執行能力延伸至這一生態系。

隨著AI代理從雲端基礎設施走向邊緣裝置與實體系統，Arm認為，安全邊界也必須跟隨代理執行任務與採取行動的場景延伸。當代理具備更強的持續運作能力與自主性，部署所需的運算資源將增加，監測、權限管控與隔離能力也需要同步擴充。

（相關報導： 敏感資料不能上雲？思科攜NVIDIA推Splunk AI POD，支援本地、私有雲與隔離環境 ｜ 更多文章 ）