「輝達不能只靠晶片!」AI分析師:它發表了一項服務,開拓硬體以外的軟體市場

2024-03-21 10:40
輝達推出NIM推論微服務,能創造新的收入來源。(美聯社)
輝達推出NIM推論微服務,能創造新的收入來源。(美聯社)

輝達執行長黃仁勳在GTC大會上發布多款新產品。AI界權威分析師歐唐納爾受訪分析2亮點,表示新一代AI晶片是首款專為訓練語言模型而生的晶片,此外,其擴展軟體技術有助公司長遠布局。

輝達(NVIDIA)GTC大會今天登場,執行長黃仁勳進行主題演講,內容圍繞人工智慧發展技術,他宣布多款新產品,包括外界矚目的AI新晶片,也就是新一代的GPU,硬體升級之外,輝達與日俱增的軟體影響力也備受業界關注。

AI界權威分析師歐唐納爾(Bob O'Donnell)全程參與主題演講,他會後接受中央社專訪,表示黃仁勳2小時演說中,有2項重要發展影響深遠。

亮點一:B200是專門為生成式AI設計的第一款晶片

第一,黃仁勳一如外界預期發表新晶片Blackwell B200,歐唐納爾說,這是非常大的進展,「我認為它是專門為生成式AI時代設計的第一款晶片。」

他表示,晶片設計耗時漫長,目前出現的其他晶片,儘管已被使用在訓練大型語言模型(LLM),「但不一定是專為LLM設計的產品」,輝達對晶片架構所做的改變,是專門為LLM設計,「且能訓練的模型規模甚至比以往更大。」

他強調,輝達瞭解「AI未來的需求只會更大」,第一次推出這種產品。

他特別點出關鍵,新晶片運用新一代Transformer引擎設計,性能將顯著提升,「這是重大的變化」,可訓練的模型變大、能訓練的數據量也增加一倍。

他說,「以簡單的數學邏輯來說,它可以執行2倍的運算...這會讓輝達在業界超前一段時間。」

亮點二:輝達推出NIM推論微服務,能創造新的收入來源

第二,歐唐納爾表示,黃仁勳此次發表的「軟體技術」令他眼睛為之一亮。

大部分的人熟悉輝達強項為硬體技術,但今天黃仁勳還宣布推出可大幅縮減部署時間的NIM推論微服務,「這替輝達提供潛在機會去創造新的收入來源。」

他說,這項技術建立在輝達的CUDA平台上,輝達目前營收主要來源為硬體,因此,有新的收入來源「攸關輝達這間公司更長遠的發展。」

他進一步解釋,科技巨擘深知晶片重要性,包括微軟(Microsoft)、亞馬遜(Amazon)、OpenAI,都試圖開發的晶片,不希望過度依賴輝達,因此輝達未來發展,不能單靠晶片,公司想要持續成長,必須要創造另一個收入來源。

另外,更重要的是,這項服務使得企業更容易採用生成式AI產品。

歐唐納爾點出,現在許多企業即便對生成式AI深感興趣,「但實際使用上面臨很大挑戰」,因此需要更多工具輔助,才能創建自己的生成式AI應用程式。

挑戰:AI晶片仍短缺,開發應用程式也非常複雜

歐唐納爾也提到輝達面臨的挑戰,包括「AI晶片短缺」的情況還是存在,訂單量顯然很大,「他們(輝達)如何增加晶片的供應會是考驗」。

此外,還有訓練的問題,編寫生成式AI的應用程式非常複雜困難,需要很長的時間,如何讓更多企業創建應用程式,也涉及未來發展。

歐唐納爾是科技業分析機構TECHnaanalysis Research總裁兼首席分析師,造訪過台灣15次,今年2024台北國際電腦展(COMPUTEX 2024)將再度訪台。 (相關報導: 早在10年前,輝達就已在布局AI!新一代AI晶片推出,霸主地位短時間難取代 更多文章

責任編輯/郭家宏

喜歡這篇文章嗎?請作者喝杯咖啡支持他

請他喝杯咖啡
更多文章
職訓神助攻 女房仲取得丙級證照轉行當木工
女力發威!女子參加堆高機培訓 成功轉職薪資跳級
新竹最強美食不是貢丸、米粉?內行推1樣低調小吃:在地人才知道、只有新竹吃的到
北分署助中小企業「育才留才」 逾千名勞工受惠
唐鳳出席「民主峰會」 引中國不滿 外交部:分享科技強化民主獲肯定
GTC見證黃仁勳簽名新一代AI伺服器 劉揚偉預告台北電腦展「有哏」
好市多1款洗衣精特價!網讚「用量省、黃垢全洗掉」,內行曝:還能用來清潔洗衣槽
領過世親人遺產恐觸法!小心拿不到錢還要跑法院,律師教學做到2件事自保
美國利率連5凍!聯準會維持今年降息3碼預測,預估最快降息時間曝
60歲退休就領勞保年金,其實很吃虧!達人揭最佳請領時機,老了沒工作比別人多領26萬
減肥不用瘋狂有氧、節食!專家曝多吃5種食物「燃脂效果是綠茶2.5倍」,刮油剷脂瘦一大圈
00878、006208該買哪一支比較賺錢?內行揭1舉兩得投資方法:長期下來有不錯報酬
聯準會助攻美股再創歷史新高、台股衝破2萬點!究竟何時降息?鮑爾又說了什麼?
大谷翔平最重要夥伴涉賭被開除!身兼翻譯與好友的水原一平,到底是什麼人?
如何找到加密貨幣市場下一個Alpha項目 有潛力升百倍的迷因幣?
參訪友善食農阿古力社會企業 張麗善率隊有機米糧食農體驗
雲縣府獲「2024智慧城市創新應用獎」 張麗善:打造堅韌省工、淨零永續智慧農業
「如果我沒當選,整個國家將血流成河!」川普究竟拿什麼事在恐嚇誰
「媽祖文化」藝術特展4/20登場 張麗善:一同來感受媽祖文化藝術魅力
美日韓技師協助鋪設紅土 樂天桃園球場改善進度近9成
醃肉別再用蛋白、醬油!大廚加4物「鎖住肉汁、提出鮮味」,肉質香嫩入味不甘柴
桃市榮獲6項公共工程金質獎 張善政:持續精進公共建設品質
桃市提升交通服務續推新政策 張善政盼穩定公共運輸服務量能
桃市文化局《六公里的返鄉路》榮獲休士頓國際影展金獎
桃市府呼籲中央 社會住宅租金應落實可負擔原則
改善老舊建物無障礙設施 蘇俊賓:持續提升友善環境品質
升級國安事件?被中國海警救起金門釣客傳為軍人 蔡明彥證實人都還在對岸
北市加強列管公廁查核 未達標處告發後已改善
赴美建廠挑戰大?台積、Intel供應商傳推遲進度
天氣預報》連4天暖如夏!這天起2波東北季風接力「降溫轉雨」,氣象署曝最冷時間點
馬文君拍板516登太平島,蔡英文也要登島?國安局長:不建議
ChatGPT竟然不認識施崇棠?台版ChatGPT「TAIDE」商用版4月釋出
北市建築物外牆安檢及申報修正條文通過 保障公共安全不遺漏
北市113年度房屋稅稅籍釐正作業展開
北市財政局推動安欣芳和公辦都更案 公私協力共創樂齡宜居社區
幕後》罷免來勢洶洶!小草左右基隆江山 柯文哲與謝國樑有條秘密管道
3個星座外表孤僻冷漠,卻能成為人生大贏家!處女座、水瓶座都上榜
鴻海股價還會漲嗎?財經專家曝利多:有機會朝150元高點前進
不只王育敏該辭兒盟董事?黃揚明點名這人也快辭:舉牌抗議時應自問一下
風評:陳宗彥八次性招待彈劾不了─連蒼蠅都打不得的監察院
趙春山觀點:「兩會」之後的中國─內政疲軟,外交抵禦美國圍堵
罷免謝國樑9天就破6000份連署!這1關鍵人物成罷免關鍵,一出聲就決定勝負
長平觀察》外媒記者、農夫山泉與楓橋經驗
謝明瑞觀點:臺灣的人口紅利與房價
王瀚興觀點:美人反美?從強制中資切割抖音法案談起
魏隆陞觀點:正面看待朱立倫改革國民黨
葉日武觀點:00940之亂─股神加持之威+金融素養貧乏!
觀點投書:綠委應該向韓國瑜道歉
觀點投書:交通微罪不舉與民進黨的「永續社運」
ETF有哪些?什麼是ETF?3個入坑前一定要知道的事!簡單選出第一支「指數股票型基金」