NVIDIA 創下最新 AI 推論測試新佳績

2019-11-07 17:31

? 人氣

NVIDIA EGX 平台。(圖/世紀奧美公關提供)

NVIDIA EGX 平台。(圖/世紀奧美公關提供)

NVIDIA (輝達) 日前宣布繼近期在最新的 AI 訓練測試中的佳績,最新資料中心與邊緣 AI 推論作業效能測試皆雙雙創下速度最快的成果。MLPerf Inference 0.5 為業界首創獨立 AI 推論測試基準套件,其結果向外界展現用於資料中心的 NVIDIA Turing™ GPU 與用於邊緣運算的 NVIDIA Jetson Xavier™ 系統單晶片之優異表現。

MLPerf 的五項推論基準適用於多種形式與四個推論情境,其中包含已經建立的影像分類、物體偵測和翻譯等 AI 應用項目。NVIDIA 在資料中心伺服器與離線情境的五項基準測試中皆拔得頭籌,Turing 架構 GPU 在所有商用處理器中讓各處理器均創下最佳的表現。Jetson Xavier 在著重於邊緣的單串流及多串流情境中,在所有商用邊緣及行動系統單晶片中提供最高的效能。

NVIDIA Jetson Xavier NX 全球尺寸最小 的邊緣 AI 超級電腦。(圖/世紀奧美公關提供)
NVIDIA Jetson Xavier NX 全球尺寸最小 的邊緣 AI 超級電腦。(圖/世紀奧美公關提供)

NVIDIA 加速運算部門副總裁暨總經理 Ian Buck 表示,「AI 正處於一個轉捩點,迅速從研究領域轉向實際應用的大規模落地部署。AI 推論有著十分吃重的運算要求。NVIDIA 結合業界最先進的可編程加速器、CUDA-X AI 演算法套件,以及在 AI 運算方面的深厚專業知識,可以幫助資料中心部署其龐大且不斷增長的複雜 AI 模型。」

NVIDIA 強調其運算平台在多種 AI 作業負載方面的可編程性和效能,是唯一一間在五項 MLPerf 基準測試中均創下亮眼成績的公司。今年七月 NVIDIA 在 AI 訓練 MLPerf 0.6 基準測試拿下第一,締造了八項訓練表現的最佳紀錄。

NVIDIA GPU 協助全球眾多最大型雲端基礎設施加速大規模推論作業,包括阿里雲、AWS、Google Cloud Platform、Microsoft Azure 及騰訊雲。現今 AI 延伸至行動點及資料建立的邊緣,像是 Walmart 和 P&G 在內的全球各大企業和組織,都使用 NVIDIA EGX 邊緣運算平台和 AI 推論效能,在網路邊緣執行複雜的 AI 運算作業。NVIDIA 透過 NVIDIA TensorRT™ 6 高效能深度學習推論軟體創下各項 MLPerf 測試佳績,該軟體可以在從資料中心到邊緣輕鬆優化及部署正式生產環境中的 AI 應用程式。在 Github 檔案庫中也能以開放源碼的型態取得新的 TensorRT 優化項目。

今日也推出 Jetson Xavier NX 為旗下的推論平台加入新生力軍。Jetson Xavier NX 是全球尺寸最小、功能最強大的 AI 超級電腦,能用於機器人和邊緣嵌入式運算裝置,在 MLPerf Inference 0.5 測試中使用的是 Xavier 系統單晶片的低功率版本。

NVIDA EGX 運算平台透過一系列從  Nano 到 T4 的超級運算平台提供卓越的效能。(圖/世紀奧美公關提供)
NVIDA EGX 運算平台透過一系列從 Nano 到 T4 的超級運算平台提供卓越的效能。(圖/世紀奧美公關提供)

 

關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章

你可能也想看