AI服務的單位價格下滑,算力需求卻未必同步降溫。輝達(美股代碼:NVDA)代理執行長暨財務長克雷斯(Colette Kress)在財報電話會議指出,自2026年5月以來,Token價格下跌近60%,但不同世代GPU租金持續上升;其中Hopper部分多年期續約價格,最高達原合約的兩倍,B300租賃費率自推出後也上漲逾60%。
克雷斯將這種變化歸因於使用規模擴大:模型與推論服務更容易取得,推動更多應用與Token用量,進一步增加運算需求。依公司觀察,其運算資源在服務的超大規模雲端與新興雲端供應商之間,仍維持滿載使用。
不過,Token服務價格與GPU租金是不同計價層次,上述數據也不代表每家業者或每份合約同步變動。Hopper「最高翻倍」指部分多年期合約的續約情況,並非所有舊世代GPU價格全面翻倍。
推論與代理式AI擴張,舊世代GPU仍有需求
依克雷斯提供的數據,OpenRouter每週處理的Token數較去年同期增加35倍,過去三個月增加3.5倍;代理式AI工作負載約占該平台Token使用量80%。這些數字反映特定平台的使用情況,並非全球AI市場占比。
她指出,開放模型與推論服務供應商擴張,正把AI帶入更多企業。前沿模型的能力提升,也帶動大型實驗室採用與營收成長。公司預估,主要前沿AI實驗室將貢獻本會計年度資料中心營收約15%,其餘需求則涵蓋雲端、企業與政府等客群。
雲端的需求同樣擴大。克雷斯表示,超大規模雲端客戶的雲端業務營收成長速度,已連續六季加快;雲端產業積壓訂單約2.5兆美元,較三個月前2兆美元增加。這是雲端產業的訂單觀察,並非輝達自身在手訂單。
對輝達而言,這些現象支持不同世代GPU仍可跨工作負載運用的判斷。新平台持續推出之際,既有GPU仍能承接部分訓練、推論與其他運算工作,使需求不只集中於最新一代產品。
但租金能否維持上升,仍取決於客戶需求、供應擴充與實際使用率。部分續約價格走高,尚不足以推定所有算力投資都能取得相同報酬。
AI代理也帶動CPU需求,Vera下一年度營收估增逾一倍
GPU之外,克雷斯表示,代理式AI正帶動CPU需求大幅成長,目前需求遠超過供應。公司預估,2028會計年度CPU業務營收將成長超過一倍,顯示AI基礎設施的需求正延伸至更多運算環節。
目前CoreWeave、Meta、Nscale及OpenAI已採用Vera CPU,加入先前公布的AWS、Oracle Cloud Infrastructure等夥伴。依公司說明,Vera除了支援代理執行,也用於資料中心資料處理與科學模擬。
Meta的Muse Agent則是公司提出的應用例子。克雷斯表示,該產品推出前六週,在美國與加拿大安裝數突破1,000萬次,Meta規劃擴大Vera Rubin部署,以支援使用規模與後續成長。這項數據反映產品安裝規模,並不等同活躍使用者或付費人數。
從Token降價到GPU租金上升,輝達提出的是「成本下降帶動使用、使用再帶動算力」的需求循環。CPU成長則進一步顯示,公司希望掌握的市場不只模型訓練,也包括推論、代理執行及其背後的資料處理工作。













































