台北國際自動化工業大展於今（21）日～24日登場，據傳輝達（Nvidia）執行長黃仁勳也將來台共襄盛舉，由他掀起的AI旋風，這幾天在台灣股市未演先轟動，多檔機器人概念股展現凌厲漲勢。身為喊水會結凍的AI霸主，輝達究竟厲害在哪裡？為何其他科技巨頭仍難取而代之？
《華爾街日報》分析，輝達因為AI晶片變得炙手可熱，他們最關鍵的建設並非硬體本身，而是一道能夠留住客戶，將競爭對手拒於門外的商業堡壘——也就是以晶片、軟體築成的巨大屏障。
過去20年，輝達打造一座科技界稱之為「圍牆花園」（walled garden）的體系，這與蘋果（Apple）自創的系統相似，但蘋果的服務主要面向一般消費者，輝達的的重點則聚焦於使用其晶片構建AI系統和其他軟體的開發者。
千萬別小看這道圍牆。有了圍牆花園，即使面臨其他晶片製造商，甚至是Google、亞馬遜（Amazon）等科技巨頭的競爭，未來幾年內輝達在AI市場被取代的可能性依然極低。
或許有人好奇，為什麼從長遠來看，業界競爭的焦點不僅是電路設計能力，而是編碼能力？為什麼這些公司競相開發軟體，只為了繞過輝達的防護屏障？
輝達透過CUDA建立強大生態系統
輝達「圍牆花園」的關鍵是一個名為CUDA的軟體平台，於2007年問世，解決了一個當時還沒有人遇到的問題：如何使用輝達的專用晶片運行非圖形軟體，例如加密演算法、加密貨幣挖礦等，這些晶片最初是針對3D圖形和電子遊戲等高強度應用而設計的。
CUDA讓圖形處理器（GPU）能運行各種計算任務，其中包括近年火熱的AI軟體，也正因為相關產業蓬勃發展，促使輝達成為全球最有價值的公司之一。
不僅止於此，CUDA還只是個開端。每年，輝達推出專門的代碼庫，以此回應軟體開發者的需求，使其GPU能以英特爾（Intel）、超微（AMD）等品牌傳統通用處理器無法實現的速度執行大量任務。
就以輝達內部的軟體工程師向來多於硬體工程師人數這點來說，不難看出這家公司的軟體平台有多麼重要。黃仁勳曾經為此說明，公司將這種硬軟體結合稱為「全端計算」，這代表從晶片到構建AI的軟體，輝達全都自行操刀一手包辦。
每當競爭對手宣布推出AI晶片，對他們來說最大的挑戰依然是面對輝達客戶使用了超過15年的系統。長年下來，這些系統已經累積大量代碼，而且這些軟體很難轉移到其他競爭對手的系統上。
新創公司和科技巨頭挑戰輝達的壟斷地位
AI計算市場的龐大規模，讓許多公司躍躍欲試，紛紛聯手挑戰輝達。根據花旗投資研究（Citi Research）半導體及網路設備分析師Atif Malik預測，到了2027年，AI相關晶片市場將達到每年4000億美元的規模。
英特爾副總裁Bill Pearson表示，許多公司正專注開發CUDA的開源替代品，英特爾工程師目前正參與兩個類似項目，其中一個項目包括安謀（Arm）、Google、三星（Samsung）和高通（Qualcomm）等公司。ChatGPT開發商OpenAI也正籌備自己的開源計劃。
投資者如潮水般湧入能開發CUDA替代品的新創公司，如果真的成功了，未來也許能夠自由選擇使用任何晶片，擺脫業界所謂的「CUDA稅」。例如，新創公司Groq最近宣布獲得6.4億美元的投資，估值達28億美元，將致力於打造能與輝達匹敵的晶片。
當然，其他科技巨擘也沒閒著，如火如荼地投資開發自家晶片：Google和亞馬遜各自生產訓練、部署AI用的訂製晶片，微軟（Microsoft）也在2023年宣布跟隨這個趨勢。
而在這場晶片競爭中最成功的公司之一是超微，只不過以市佔率而言，仍然遠遠小於輝達，其Instinct系列AI晶片在2024年的預期收入為45億美元。
超微副總裁Andrew Dieckman透露，該公司砸下重金招聘軟體工程師，「我們大幅擴充了軟體資源。」超微在上個月宣布，將以6.65億美元收購Silo AI，增加300名AI工程師。就連身為輝達重要客戶的微軟、Meta Platforms，也在購買超微的AI晶片，反映這些科技巨頭也樂見競爭。
8月19日，超微宣布以49億美元收購伺服器製造商，同時也是輝達供應鏈的ZT Systems（美商雲達），頗有加快腳步挑戰AI霸主地位的意味。
儘管競爭者們步步進逼，分析師預計輝達在未來2～3年內仍可保持約90%的AI晶片市佔率。
衡量成本效益 科技公司轉而尋求替代方案
如果要分析替代方案的優缺點，勢必得先了解在不使用任何輝達產品的情況下，構建類似ChatGPT的AI的所需條件。
新創公司NinjaTech AI創始人兼CEO Babak Pahlavan表示，如果負擔得起，他本來會選擇用輝達的硬體及軟體來創辦公司，但H100晶片太過搶手、供貨短缺，導致價格始終居高不下。
最後，Pahlavan和其他合夥人將目光轉向亞馬遜，讓他們為AI訓練（也就是系統從大量數據中「學習」的過程）生產客製化晶片。經過幾個月努力，該團隊終於成功在亞馬遜的Trainium晶片上完成了AI的訓練，這是個浩大的工程。
「過程中遭遇許多挑戰和麻煩。」Pahlavan回憶，在這段時間以來，NinjaTech AI團隊與亞馬遜的軟體團隊每週會面四次，所幸最後順利解決問題。NinjaTech的AI「代理人」於今年5月推出，他們聲稱每月有超過100萬活躍用戶，這些用戶使用的模型都是在亞馬遜的晶片上訓練和運行的。
實際上，使用亞馬遜訂製AI晶片的客戶還包括Anthropic、Airbnb、Pinterest和Snap。亞馬遜雖然也提供輝達晶片的雲端計算服務，但使用成本高於自家的AI晶片。
從NinjaTech AI的例子來看，新創公司寧願飽受磨難，也要在輝達「圍牆花園」之外構建AI的主要原因，說到底還是成本。
Pahlavan表示，為了服務每月超過100萬名用戶，Ninja Tech在亞馬遜的雲端服務帳單約為每月25萬美元，但是如果使用輝達的晶片，成本將暴增為75萬至120萬美元。
面對同業的競爭壓力以及客戶的苦衷，輝達當然了然於胸，黃仁勳也已承諾，輝達開發下一代產品時，將降低晶片在硬體上訓練AI的成本。
