AI浪潮不只推升GPU需求,CPU也正在重新成為資料中心競爭核心。Arm執行長Rene Haas 2日在Computex主題演講中指出,GPU與各類加速器擅長生成token,但當AI從聊天機器人走向代理式AI,系統需要分派、管理、協調與執行大量任務,這些工作必須由CPU承擔。AI代理人不會睡覺,而且「代理人會衍生出更多代理人」,未來在相同功耗下,CPU核心需求可能增加4倍以上。
Rene Haas:代理人數量增加 需要更多CPU分配任務
Rene Haas表示,過去市場多把焦點放在GPU,因為GPU與XPU是AI訓練與推論的重要加速器,負責快速生成token,也就是AI產出文字、程式碼、圖片或其他內容的基礎。
但代理式AI的出現,讓運算架構開始改變。不同於人類需要休息,AI代理人可以全天候運作,而且一個代理人可能再呼叫多個子代理人,共同處理任務。當代理人數量增加,背後就需要更多CPU來分配任務、管理流程、協調記憶體與工具呼叫,並把結果送到正確目的地。
Rene Haas用一句話形容這個變化:「Agents beget agents.」也就是代理人會衍生出更多代理人。這讓CPU不再只是資料中心中的配角,而是AI系統能否有效運作的指揮核心。
簡單來說,GPU像是AI工廠中的高速產線,負責大量生產答案;CPU則像是總指揮,決定工作如何分派、任務如何排列、資料如何流動,以及不同AI代理人該如何協作。
這也是Rene Haas強調CPU需求快速上升的原因。當AI只是聊天機器人時,使用者問一句、模型答一句,運算需求相對單純;但當AI變成代理人,開始閱讀文件、規劃流程、呼叫軟體工具、查詢資料庫,甚至連續工作數分鐘、數小時或數天,整個系統就需要更多CPU核心在背後調度。
Rene Haas:未來相同功耗範圍內需要4倍CPU核心
Rene Haas透露,Arm在今年3月曾提出,未來相同功耗範圍內可能需要4倍CPU核心。當時外界質疑這個估算過於積極,但短短幾個月後,市場已開始討論4倍、8倍甚至10倍需求。他坦言,確切倍數很難預測,但可以確定的是,這個數字正在變大。
為因應這波需求,Arm推出Arm AGI CPU,鎖定AI資料中心與代理式AI工作負載。Rene Haas指出,這款產品已進入生產,並由台灣供應鏈打造。
Rene Haas表示,Arm AGI CPU有兩種系統配置,一種是36千瓦氣冷機櫃,可提供8000個CPU核心;另一種是200千瓦液冷機櫃,核心數超過4萬5000個。相較同級x86系統,Arm宣稱可在相同功耗下提供兩倍每機櫃效能,若資料中心希望降低耗電,也能在功耗減半下維持相近效能。 (相關報導: Arm Computex開講》伺服器CPU生態系100%在台打造 執行長:沒有台灣就沒有Arm | 更多文章 )
Rene Haas強調,AI資料中心不只看算力,也要看電力、機櫃密度與資本支出。隨著大型資料中心動輒耗電數GW,CPU若能在相同電力限制下提供更高效能,將直接影響AI基礎設施的成本結構。


















































