AI能讀檔、用工具也帶來風險！NVIDIA推OpenShell守住代理安全

AI代理愈來愈能動手處理工作：讀取檔案、查詢資料庫、連結網路服務，甚至調用工具完成多步驟任務。這些能力讓代理從問答系統走向企業工作流程，也讓安全問題不再只關乎模型會不會產生錯誤答案，還包括代理能接觸哪些資料、能執行什麼操作，以及行動是否留下紀錄。

NVIDIA（輝達，NASDAQ：NVDA）創辦人暨執行長黃仁勳21日在柏林舉行的 GTC 主題演講中指出，代理可能存取檔案、資源、網路及工具，因此安全機制必須隨代理的能力一併設計。他說：「最重要的是確保代理安全。」黃仁勳並提醒，代理每次啟動時所需權限可能不同，企業不宜一次授予廣泛權限後，就讓代理長期使用。

NVIDIA此次推出 OpenShell 參考架構，目標是在企業基礎設施與邊緣系統中，提供建置、控管、觀測及執行安全代理所需的機制。OpenShell並非新的 AI 模型，而是建立在 NVIDIA OpenShell 安全執行環境軟體上，將代理執行與其可接觸的系統資源區隔，再依政策限制代理的操作範圍。

這套架構整合 Vera Rubin、Vera CPU 與 BlueField-4 DPU，分別支援模型推論、代理執行框架與工具使用，以及安全政策管理。NVIDIA表示，BlueField-4 DPU可執行 Sentry，在晶片層級落實安全管控；OpenShell執行環境則透過隔離機制，限制代理對檔案、網路與其他系統資源的存取。架構也能延伸至邊緣端，支援 RTX Spark、DGX Spark 與 DGX Station 等系統。

黃仁勳表示：「AI能力與安全性必須同步推進。」他指出，代理應能在明確界線內完成有用工作，同時受到隔離、監控與管理。這代表權限設定不能只看代理的身分，也要考量每項任務需要哪些資料和工具。舉例來說，代理若只需整理特定資料，就不必取得整個資料庫的存取權；涉及對外傳送資料或修改重要系統的操作，也可設計更嚴格的核准流程。

OpenShell參考架構可運行於 Canonical、Red Hat、Microsoft Windows 等企業作業系統。NVIDIA表示，Anthropic、AWS、思科、Google Cloud、微軟、OpenAI、SAP、西門子等業者正採用此架構，以強化代理部署安全。這些採用情況顯示，業界正尋找可納入企業環境的代理安全方案，但不表示風險已經消失。組織仍須自行訂定政策，檢視代理使用的資料與工具，並建立操作紀錄、事件追蹤及責任歸屬機制。 （相關報導： 黃仁勳GTC柏林演講：要參與AI經濟不能只消費AI！NVIDIA加速歐洲建置AI工廠 ｜ 更多文章 ）

對企業而言，代理的價值在於能否運用內部知識和工具完成工作；相對地，代理接觸的資源愈多，錯誤操作或權限遭濫用的影響也可能愈大。OpenShell試圖把隔離、政策管理與監控納入代理執行環境，讓企業在擴大應用時有所依循。最終能否降低風險，仍取決於企業如何設定權限，以及是否持續檢查代理的實際行為。