NVIDIA (輝達) 日前宣布繼近期在最新的 AI 訓練測試中的佳績，最新資料中心與邊緣 AI 推論作業效能測試皆雙雙創下速度最快的成果。MLPerf Inference 0.5 為業界首創獨立 AI 推論測試基準套件，其結果向外界展現用於資料中心的 NVIDIA Turing™ GPU 與用於邊緣運算的 NVIDIA Jetson Xavier™ 系統單晶片之優異表現。
MLPerf 的五項推論基準適用於多種形式與四個推論情境，其中包含已經建立的影像分類、物體偵測和翻譯等 AI 應用項目。NVIDIA 在資料中心伺服器與離線情境的五項基準測試中皆拔得頭籌，Turing 架構 GPU 在所有商用處理器中讓各處理器均創下最佳的表現。Jetson Xavier 在著重於邊緣的單串流及多串流情境中，在所有商用邊緣及行動系統單晶片中提供最高的效能。
NVIDIA 加速運算部門副總裁暨總經理 Ian Buck 表示，「AI 正處於一個轉捩點，迅速從研究領域轉向實際應用的大規模落地部署。AI 推論有著十分吃重的運算要求。NVIDIA 結合業界最先進的可編程加速器、CUDA-X AI 演算法套件，以及在 AI 運算方面的深厚專業知識，可以幫助資料中心部署其龐大且不斷增長的複雜 AI 模型。」
NVIDIA 強調其運算平台在多種 AI 作業負載方面的可編程性和效能，是唯一一間在五項 MLPerf 基準測試中均創下亮眼成績的公司。今年七月 NVIDIA 在 AI 訓練 MLPerf 0.6 基準測試拿下第一，締造了八項訓練表現的最佳紀錄。
NVIDIA GPU 協助全球眾多最大型雲端基礎設施加速大規模推論作業，包括阿里雲、AWS、Google Cloud Platform、Microsoft Azure 及騰訊雲。現今 AI 延伸至行動點及資料建立的邊緣，像是 Walmart 和 P&G 在內的全球各大企業和組織，都使用 NVIDIA EGX 邊緣運算平台和 AI 推論效能，在網路邊緣執行複雜的 AI 運算作業。NVIDIA 透過 NVIDIA TensorRT™ 6 高效能深度學習推論軟體創下各項 MLPerf 測試佳績，該軟體可以在從資料中心到邊緣輕鬆優化及部署正式生產環境中的 AI 應用程式。在 Github 檔案庫中也能以開放源碼的型態取得新的 TensorRT 優化項目。
今日也推出 Jetson Xavier NX 為旗下的推論平台加入新生力軍。Jetson Xavier NX 是全球尺寸最小、功能最強大的 AI 超級電腦，能用於機器人和邊緣嵌入式運算裝置，在 MLPerf Inference 0.5 測試中使用的是 Xavier 系統單晶片的低功率版本。 （相關報導： 美台安全合作》中國對台灣進行非傳統威脅 AIT處長酈英傑：理念相近國家加入凸顯「台灣不孤單」 ｜ 更多文章 ）
