張瀞文專欄：AI晶片愈快、資料愈塞車─台灣供應鏈迎來下一場「光速戰爭」

​AMD市值突破1兆美元，表面上是AI行情再度升溫，背後更重要的訊號，是AI晶片產業正在更換戰場。

9月21日，AMD股價大漲9.6％，市值首度跨過1兆美元。市場看見它正從晶片供應商走向完整AI系統：Helios機架級平台將GPU、CPU、網路與軟體整合起來；輝達（NVIDIA）則早已從GPU、NVLink、Spectrum-X一路延伸到CUDA與AI Factory。博通協助雲端業者打造客製化XPU及Ethernet網路，華為也以昇騰晶片、CANN軟體與自有互連架構建立AI運算體系。競爭的單位，已由一顆晶片擴大到整座AI工廠。

當各家公司都開始蓋AI工廠，新的瓶頸也浮現了：晶片算得愈來愈快，資料卻未必送得夠快。

如果把AI工廠想成一座快速擴張的城市，GPU就像一棟棟摩天大樓，HBM是緊鄰大樓的高速倉庫，互連網路則是道路與鐵路。

過去幾年，產業忙著興建大樓。從H100、Blackwell到Rubin，每一代GPU都把算力往上推；AMD、Google、亞馬遜、Meta與華為也持續增加AI晶片。可是大樓增加十倍，道路若沒有同步拓寬，上班時間整個城市都會塞車，AI現在碰到的正是這個問題。

一顆GPU可以算得非常快，10萬顆GPU一起工作卻完全是另一回事。大型模型訓練時，每顆GPU都必須不斷交換資料、同步參數。只要網路塞住，昂貴的GPU就只能停下來等資料。

所以輝達發展NVLink、AMD推動UALink、博通押注Ethernet，大家其實都在解決同一道問題：如何讓10萬、甚至100萬顆AI晶片，像一顆晶片般共同工作？大家開始替自己的AI城市修路。

然而，道路本身也有極限。今天晶片與伺服器之間的大量資料傳輸仍依靠電訊號。短距離下，銅線便宜、成熟，就像城市裡的高速公路。但城市愈來愈大、貨物愈來愈多，全部依靠卡車跑高速公路，效率終究會碰到瓶頸。

高速電訊號也是如此。傳輸速度愈快、距離愈長，訊號損耗、功耗與散熱問題愈嚴重。當AI資料中心走向數萬、數十萬顆GPU，搬資料本身就開始消耗大量電力。於是AI城市開始蓋高鐵，這條高鐵就是光互連（optical interconnect）。

光可以承載大量資料，在高速與較長距離傳輸下具有能源效率優勢。真正值得注意的趨勢，是光正在一步一步往晶片靠近。這也是CPO（Co-Packaged Optics，共封裝光學）快速升溫的原因。

傳統光模組通常位於交換器面板。資料離開交換晶片後，要先透過PCB以電訊號走一段「公路」，到了光模組才轉成光。CPO可以理解成把高鐵站直接搬到交換晶片旁邊。

資料離開晶片不久，就從電轉成光，縮短高速電訊號需要行走的距離，再利用光纖進行大量資料傳輸。概念其實很簡單：既然電愈走愈辛苦，就讓資料早一點搭上光。

（相關報導： 張瀞文專欄：從韓劇掀蓋機到iPhone Duo─三星20年「摺疊夢」，會被蘋果收割嗎？ ｜ 更多文章 ）

最早是資料中心之間用光，接著機櫃之間大量用光；未來隨著AI運算密度提高，光還可能繼續往封裝甚至晶片靠近。因此，AI下一場硬體戰爭的問題已經逐漸浮現：光最後會走到離GPU多近？

這也解釋了AI硬體目前兩個愈來愈清楚的技術方向：一邊「造光路」，另一邊「挖水路」。

造光路，是矽光子、CPO與高速光互連，解決資料搬運。挖水路，是液冷、微流道與新材料，帶走高密度AI晶片產生的巨大熱量。兩者源自同一個問題：AI正在把更多算力與電力塞進更小的空間，同時要求愈來愈多晶片共同工作。

過去數十年，半導體產業努力解決「如何把更多電晶體塞進一顆晶片」；AI時代則多了一道更大的工程題：如何讓10萬顆晶片，看起來像一顆晶片。

因此，AI競爭的價值也開始從GPU往外擴散，HBM、先進封裝、高速交換器、矽光子、CPO、電源與液冷的重要性同步提高。

這正是台灣下一階段最值得注意的地方。GPU時代，台灣靠台積電先進製程與CoWoS，加上鴻海、廣達、緯創、緯穎等AI伺服器製造能力，站在全球AI硬體供應鏈核心。進入光互連時代，原有優勢仍需要繼續往前延伸。

中國廠商在高速光模組量產與成本控制已有深厚基礎，美國則掌握交換晶片、SerDes與系統架構等重要技術。台灣接下來要爭取的，是把半導體製造與先進封裝能力延伸到矽光子、CPO與光電整合。

當光學元件愈來愈靠近交換晶片，半導體製造、先進封裝與光通訊原本分開的產業，也開始交會，這可能就是台灣下一個機會。

黃仁勳率先把GPU戰爭打成AI Factory戰爭，如今AMD、博通等競爭者都開始建立自己的生態系。當AI工廠愈蓋愈大，戰場自然往下一個物理瓶頸移動。

AI上半場，台灣最重要的能力是把晶片做出來。進入AI Factory時代，下一道考題則是：能不能把這些晶片用光連起來。這場AI「光速戰爭」，也將決定台灣能否把GPU時代累積的優勢，繼續帶進下一個AI硬體週期。

（相關報導： 張瀞文專欄：從韓劇掀蓋機到iPhone Duo─三星20年「摺疊夢」，會被蘋果收割嗎？ ｜ 更多文章 ）