AI代理愈自主,企業怎麼管?輝達攜逾百家夥伴推安全平台,以晶片監控代理行為

2026-11-18 07:22
0:00 / 0:00
輝達鴻海合作,圖為以輝達Vera Rubin平台為核心的DSX POD模組化AI工廠參考設計。(中央社)
輝達鴻海合作,圖為以輝達Vera Rubin平台為核心的DSX POD模組化AI工廠參考設計。(中央社)

AI代理從回答問題,逐步走向長時間執行工作、存取企業資料與使用工具,企業也須面對更具體的管理問題:代理能讀哪些檔案、使用哪些工具,超出權限時又由誰阻止?輝達(美股代碼:NVDA)在財報電話會議表示,已與逾100家夥伴宣布推出Open Agent Safety Platform,透過軟體限制與晶片層級監控,提供企業部署AI代理所需的控制機制。

代理執行長暨財務長克雷斯(Colette Kress)指出,當AI代理運作時間更長、自主程度更高,企業就需要更強的安全與資安控制。這也讓AI基礎設施的競爭,從模型能力與算力效率,延伸至能否進入企業日常流程並受到管理。

輝達提出的架構,將模型推論、代理執行與安全監督串接,希望透過合作夥伴生態系,讓控制能力隨企業、雲端及其他應用一同部署。

OpenShell限制檔案與工具存取,Sentry在晶片層監控

依克雷斯說明,OpenShell透過限制AI代理存取檔案與工具的權限,將活動限制在受控範圍;NVIDIA Sentry則運行於BlueField-4,監控代理行為並執行安全政策。

正式財報進一步列出,參考架構結合開源OpenShell軟體、負責模型推論的Vera Rubin、執行代理工作的Vera CPU,以及運行Sentry的BlueField-4 DPU。這種分工的核心,是讓執行AI工作的運算資源,同時搭配獨立監督機制。

公司表示,Sentry可在數毫秒內阻止代理超出預設限制。這項設計瞄準的是代理執行過程中的行為控制,實際反應時間與保護範圍,仍須依企業部署環境及政策設定驗證。

合作範圍涵蓋模型、企業軟體、資安、雲端與機器人業者。克雷斯列舉Anthropic、AWS、CoreWeave、CrowdStrike、Dell、Google Cloud、HPE、IREN、JPMorgan Chase、Lenovo、Microsoft、Nebius、OpenAI及SpaceX/xAI等夥伴。

跨領域合作顯示,輝達希望讓安全控制與不同應用及基礎設施相接。不過,各家參與合作的範圍不同,不能據此認定所有夥伴均已全面導入平台全部元件。

開放模型走進企業,治理須跟上工作流程整合

企業AI需求的擴大,也與開放模型應用有關。輝達9月已簽署收購Hugging Face的最終協議,希望擴大其平台規模。依管理層說明,Hugging Face服務逾1,800萬名開發者及20萬家企業,目前交易進度為已簽署協議。

克雷斯表示,公司持續投入開放模型生態系,讓企業結合自身資料、工具及工作流程,建立特定領域的AI能力。Nemotron、企業軟體合作及模型後訓練,都是將通用模型導入專業工作的途徑。

當模型接上內部資料與工具,風險也隨之從輸出內容,擴大至存取與執行行為。對企業而言,除了評估模型回答是否正確,也須考量權限範圍、執行限制及監督安排;這正是輝達安全平台所瞄準的部署需求。

同樣的控制課題,也隨AI走向實體世界而受到關注。克雷斯表示,第三季實體AI營收較去年同期成長近3倍,全年預估突破250億美元,應用涵蓋機器人與自動駕駛。這項數字反映實體AI相關應用的營收規模,並非安全平台本身的收入。

從開放模型、CPU與GPU,到代理的權限與行為監控,輝達正擴大企業AI所需的軟硬體架構。後續關鍵將是這些控制如何在實際工作流程中部署、驗證與持續維護,讓企業在增加AI自主能力的同時,也能掌握其執行邊界。

喜歡這篇文章嗎?請作者喝杯咖啡支持他

請他喝杯咖啡
今日精選
更多文章
風評:洋流起、戰鼓催,滿城盡是錦衣衛?
荊元宙觀點:美軍設自主作戰司令部,解放軍如何應對?
李其澤觀點:中國地方債不是崩潰倒數─內需受壓,出口退路也在變窄
姚中原觀點:從台海安全角度看洋流溢散台灣現象
汪志雄觀點:羅大佑談的不是女性未婚未育,是下一代的未來
姚文成觀點:臺北的下一個四年─實績、願景與理性選擇
呂紹煒專欄:遍地輸家獨不見贏家的輝達案
黃仁勳想回輝達當執行長?承認「嚴重錯誤」後喊話董事會,19萬人連署挺他回歸
觀點投書:統獨政治的經濟盲點─台灣承受得起中國與美國的雙重制裁嗎?
觀點投書:承載著全球危機的2026年深圳APEC峰會
劉峻誠觀點:從黃仁勳的離場,看AI產業的下一個十年
夏一新觀點:巨人崩潰之後─從黃仁勳、阿格西到柯林頓的心理重建
觀點投書:科技可以無國界,但權力與利益未必沒有界線
觀點投書:台灣安全為何牽動全球利益?
觀點投書:維護大學自治,就絕不該把票投給綠營
觀點投書:誰是美國的二戰盟友?從中美峰會看歷史身分與外交承認的混淆
王德威專文:蘇軾的有限與不朽─天地一瞬,物我皆無盡
11/18新聞早報|黃仁勳風波後首發聲、2個月狂拿1772張發票「中獎全追回」國稅局回應了、油膩便當盒丟回收還是垃圾?環保局公布正確處理方式
黃仁勳:願有條件回任輝達CEO!承認個人嚴重錯誤、承諾配合獨立調查,決定權交董事會
黃仁勳風波後首度發文!坦承犯下嚴重錯誤、喊話董事會:若有需要「很榮幸回任執行長」
兒子結婚,爸媽送688萬元贈與稅免繳!國稅局揭關鍵期限,晚了就沒優惠
黃仁勳表態願回任執行長!發文承認私生活犯錯:只有在美國,才有可能誕生輝達
黃仁勳12月1日前往國會!面對3委員會閉門質問,議員想知道晶片去向與黃樂的角色
田曦薇新劇《嫁金釵》不上榜!近三年大女主古裝劇網播量TOP10:冠軍狂飆36.4億霸氣封神,《逐玉》排第幾?
台股雪崩,韭菜翻車!旺矽、倉和爆違約交割逾6500萬,千金股旺矽今年第2起
蔣萬安11月27日凱道辦「勝選之夜」 喊話支持者「光榮台北,團結向前」
黃仁勳辭職,輝達融資承諾還算數?郭正亮示警:美股明年6月前恐爆空前災難
「股市重挫時會充滿鬼故事」 專家分享3投資策略:行情下跌還是可進場
鋒燦民調》沈伯洋領先蔣萬安1.7個百分點 4選區占優、港湖贏近10個百分點
銀行熱推FCN 金管會:最大損失為本金,風險比TRF小
川習會前夕美國又收緊AI晶片?北京怒批「經濟脅迫」,放話採取「必要措施」
高虹安領先優勢只剩0.9個百分點?新竹「藍白合」示範區,竹科選民還挺得住嗎?
喊話小草11/28踴躍投票 陳佩琪:再現「大罷免32比0」成績 合力救出柯文哲
APEC現場》最高戒備!美中俄峰會將在神秘「麒麟山莊」登場 習近平先見6國領袖談這些
「黃仁勳跌下神壇!」謝金河曝他一誤判敗掉江山:這些台灣供應鏈恐成地雷
11月18日開賣!高鐵選舉疏運加開22班次 紅眼列車77折 最晚凌晨1時55分收班
黃仁勳緋聞對象的丈夫是誰?華爾街日報:夫妻分工,一個確保輝達晶片管道,一個替中國蓋資料中心
翡翠水庫光電板爭議延燒!媒體人揭「綠能政策反噬」:民進黨活該被罵爆
陪沈伯洋車掃有時間、女足225萬欠款卻拖一年沒解決?葛如鈞轟李洋:還錢也要公平
蒙古國總統為何突然閃辭?反對黨揚言彈劾、要求下台,呼日勒蘇赫:我「從未竊取人民或國家的財物」
挺何欣純「副市長凍蒜」影片惹議!黃國昌揭他與賴清德關係:要讓新潮流貪腐集團入主台中?
美光桃園勞資調解未達共識!和平協議、爭議處理限制存歧見,資方方案將交會員投票,11月26日再談
假訊息、AI衝擊新聞業!蕭美琴:新聞自由是捍衛民主第一道防線
不只影響蔣萬安、李四川選情?他剖析洋流效應得出「綠營席次」:國民黨忽略一件事