AI代理從回答問題,逐步走向長時間執行工作、存取企業資料與使用工具,企業也須面對更具體的管理問題:代理能讀哪些檔案、使用哪些工具,超出權限時又由誰阻止?輝達(美股代碼:NVDA)在財報電話會議表示,已與逾100家夥伴宣布推出Open Agent Safety Platform,透過軟體限制與晶片層級監控,提供企業部署AI代理所需的控制機制。
代理執行長暨財務長克雷斯(Colette Kress)指出,當AI代理運作時間更長、自主程度更高,企業就需要更強的安全與資安控制。這也讓AI基礎設施的競爭,從模型能力與算力效率,延伸至能否進入企業日常流程並受到管理。
輝達提出的架構,將模型推論、代理執行與安全監督串接,希望透過合作夥伴生態系,讓控制能力隨企業、雲端及其他應用一同部署。
OpenShell限制檔案與工具存取,Sentry在晶片層監控
依克雷斯說明,OpenShell透過限制AI代理存取檔案與工具的權限,將活動限制在受控範圍;NVIDIA Sentry則運行於BlueField-4,監控代理行為並執行安全政策。
正式財報進一步列出,參考架構結合開源OpenShell軟體、負責模型推論的Vera Rubin、執行代理工作的Vera CPU,以及運行Sentry的BlueField-4 DPU。這種分工的核心,是讓執行AI工作的運算資源,同時搭配獨立監督機制。
公司表示,Sentry可在數毫秒內阻止代理超出預設限制。這項設計瞄準的是代理執行過程中的行為控制,實際反應時間與保護範圍,仍須依企業部署環境及政策設定驗證。
合作範圍涵蓋模型、企業軟體、資安、雲端與機器人業者。克雷斯列舉Anthropic、AWS、CoreWeave、CrowdStrike、Dell、Google Cloud、HPE、IREN、JPMorgan Chase、Lenovo、Microsoft、Nebius、OpenAI及SpaceX/xAI等夥伴。
跨領域合作顯示,輝達希望讓安全控制與不同應用及基礎設施相接。不過,各家參與合作的範圍不同,不能據此認定所有夥伴均已全面導入平台全部元件。
開放模型走進企業,治理須跟上工作流程整合
企業AI需求的擴大,也與開放模型應用有關。輝達9月已簽署收購Hugging Face的最終協議,希望擴大其平台規模。依管理層說明,Hugging Face服務逾1,800萬名開發者及20萬家企業,目前交易進度為已簽署協議。
克雷斯表示,公司持續投入開放模型生態系,讓企業結合自身資料、工具及工作流程,建立特定領域的AI能力。Nemotron、企業軟體合作及模型後訓練,都是將通用模型導入專業工作的途徑。
當模型接上內部資料與工具,風險也隨之從輸出內容,擴大至存取與執行行為。對企業而言,除了評估模型回答是否正確,也須考量權限範圍、執行限制及監督安排;這正是輝達安全平台所瞄準的部署需求。
同樣的控制課題,也隨AI走向實體世界而受到關注。克雷斯表示,第三季實體AI營收較去年同期成長近3倍,全年預估突破250億美元,應用涵蓋機器人與自動駕駛。這項數字反映實體AI相關應用的營收規模,並非安全平台本身的收入。
從開放模型、CPU與GPU,到代理的權限與行為監控,輝達正擴大企業AI所需的軟硬體架構。後續關鍵將是這些控制如何在實際工作流程中部署、驗證與持續維護,讓企業在增加AI自主能力的同時,也能掌握其執行邊界。













































