華爾街日報》輝達能在AI晶片新戰場維持霸主地位嗎?

2024-02-27 11:51

? 人氣

輝達標誌(圖/Shutterstock)

輝達標誌(圖/Shutterstock)

由輝達(Nvidia)主導的人工智慧(AI)晶片大戰已經轉向新的戰場——一個規模更大、競爭更激烈的戰場。

[啟動LINE推播] 每日重大新聞通知

通過提供訓練AI模型這一極其複雜的工作所必需的晶片,輝達將自身打造成了一家市值達2兆美元的公司。隨著該行業的快速發展,更大的機遇將是銷售讓這些模型在訓練後運行的晶片,為生成式AI工具迅速擴大的公司和個人使用者提供大量文本和圖像。

本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱:風傳媒・華爾街日報VVIP,獨享全球最低優惠價,暢讀中英日文全版本之華爾街日報,洞悉國際政經最前沿。

眼下,這種轉變正在為輝達的火爆銷售錦上添花。該公司財務長Colette Kress上周表示,在去年收入超過470億美元的輝達數據中心業務中,逾40%是用於部署AI系統,而非訓練AI模型。這一比例是首個顯示轉變正在進行的重要跡象。

Kress的評論緩解了一些人關於轉向部署AI系統的晶片會威脅到輝達地位的擔憂,這些擔憂源於與那些讓輝達成為AI熱潮領頭羊的晶片相比,AI系統進行的所謂 「推理」工作可以用性能較低、成本更低的晶片來完成。

「有一種看法認為,輝達在推理功能領域的份額將低於訓練功能領域,」Melius Research的分析師Ben Reitzes在客戶報告中說。「事實情況有助於揭示輝達從即將到來的推理爆炸中獲益的能力。」

輝達的許多競爭對手都認為,隨著推理功能晶片變得越來越重要,它們在AI市場上會獲得更好的發展機會。

英特爾生產可用於數據中心的中央處理器(CPU)。英特爾認為,隨著客戶著眼於降低AI模型的營運成本,英特爾的晶片將越來越具有吸引力。英特爾擅長製造的晶片類型已經廣泛應用於推理功能,而輝達的尖端且更昂貴的H100 AI晶片在執行推理工作方面則並未發揮至關重要的作用。

英特爾執行長帕特・季辛格(Pat Gelsinger)在去年12月的一次採訪中表示:「推理晶片的經濟效益在於,不需要去構建4萬美元的H100環境,因為那太耗電,並且需要搭配新的管理和安全模型以及新的IT基礎設施。」他說,「如果我能在標準的(英特爾晶片)上運行那些模型,那就簡單好辦了。」

美國銀行(Bank of America)的分析師Vivek Arya說,從輝達上周三公布的財報來看,透露出的最重要資訊可能就是行業向推理晶片的轉變。輝達的財季業績超出了華爾街的預期,推動該股在上周攀升8.5%,令公司估值達到約2兆美元。

Arya說,對AI模型訓練的投資激增後,隨著重點轉向從AI模型中創收,晶片推理功能的重要性將上升。與輝達主導的AI訓練功能相比,推理晶片可能更具競爭力。

推理相關業務的增長速度可能比早先預期的要快。今年年初,瑞銀(UBS)分析師估計,90%的晶片需求來自訓練,到明年推理將僅占市場的20%。這些分析師在一份報告中說,輝達約40%的數據中心收入來自推理,這個數字超出了他們的預期。

事實上,輝達上周三的財報顯示,該公司在AI晶片市場的份額尚未受到真正挑戰。目前輝達的AI晶片市場份額超過80%。在可預見的未來,輝達用於訓練AI系統的晶片預計仍將保持較高需求。

在訓練AI系統的過程中,公司通過其模型運行海量數據,教它們預測語言,從而生成類似於人類的表達。這項工作對算力要求很高,而輝達的圖形處理器(GPU)非常適合這項工作。

推理工作則是要求這些模型處理新的資訊並作出反應,相對輕鬆一些。

除了英特爾和Advanced Micro Devices等輝達的老牌競爭對手外,一些AI晶片新創公司也可能會隨著推理功能日漸重要而嶄露頭角。

新創公司SambaNova將AI晶片和軟體結合在一起,可以進行推理和訓練。「我們看到我們的推理用例正在爆炸式增長,」該公司執行長SambaNova表示,「人們開始意識到,80%以上的成本將用於推理,我需要尋找替代解決方案。」

由前GoogleAI晶片工程師Jonathan Ross創立的新創公司Groq近幾個月來的吸引力激增,先前該公司主頁上的一個演示展示了其推理晶片如何快速地從一個大語言模型中產生回應。Ross說,該公司現有計劃是今年部署4.2萬塊自家晶片,明年將部署100萬塊,但公司正在考慮將今年的部署數量增加到22萬塊,明年增加到150萬塊。

Ross說,推動該公司考慮改變計劃的一個因素是,一些最先進的AI系統正在進行調整,以便在不重新訓練的情況下做出更好的響應,這會將更多的計算工作推向推理。Ross說,與輝達或其他晶片公司的產品相比,Groq的專業晶片運行速度快得多、成本也低得多。

「對於推理,你能部署什麼取決於成本,」Ross表示。「有很多模型可以在Google接受有效訓練,但其中大約80%都沒有得到部署,原因是投入生產的成本太高。」

包括Meta、微軟(Microsoft)、Alphabet旗下Google(Google)和亞馬遜公司(Amazon.com)在內的科技巨頭一直在努力開發內部推理晶片,因為它們意識到即將到來的轉變以及能夠以更低成本進行推理的好處。

以亞馬遜為例,該公司雲端運算部門數據和機器學習副總裁Swami Sivasubramanian去年表示,亞馬遜從2018年起就開始研發推理晶片,推理占其Alexa智能助手運算成本的40%。

輝達則希望在向推理過渡的過程中保持領先地位。去年,輝達即將推出的一款晶片在一次重要的AI推理基準測試中取得了行業領先的成績,延續了該公司多年來在該競爭中的優勢地位。

去年12月,AMD發布了新的AI晶片,稱其推理性能優於輝達的晶片,隨後輝達在一篇部落格文章中回擊了這一說法。輝達稱,AMD提到了其晶片有更好的推理性能,但是AMD的測試沒有使用優化軟體,而如果在使用優化軟體的同等測試條件下,輝達晶片的推理速度將會是AMD的兩倍。

決策者的最佳夥伴

立即訂閱,即刻暢讀華爾街日報全文內容

並享有更佳的閱讀體驗

訂閱 每天只要10.9元 查看訂閱方案
關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章