HBM是什麼?AI運算為何少不了它?一文看懂關鍵零組件的成長機會、概念股

2024-08-23 11:10
資料中心廣為建設、AI應用盛行之際,高頻寬記憶體(HBM)用量預估將遽增(圖片來源:美光科技官網)
資料中心廣為建設、AI應用盛行之際,高頻寬記憶體(HBM)用量預估將遽增(圖片來源:美光科技官網)

人工智慧(AI)的興起推升高效能運算需求,業界尋求突破傳統記憶體技術的極限。因此,高頻寬記憶體(HBM)躍升為關鍵元件,負責處理AI高負載工作下的高速資料處理,同時保有高強度的傳輸速度。 

小小一片卻能作為AI應用的動力來源 

HBM主要應用於資料密集型任務,可加速處理的特性,使其非常適合深度學習和機器學習等人工智慧應用,如高效能計算(HPC)、人工智慧(AI)、圖形處理單元(GPU)和伺服器等領域。這些應用程式依賴龐大的資料集和複雜的演算法,需要快如閃電的資料存取和處理能力,而這正是HBM的優勢所在。 

AI伺服器是HBM應用的最佳範例,也是開發與部署AI基礎設施的主力。美光副總裁暨運算與網路事業部運算產品事業群總經瓦伊迪亞納坦(Praveen Vaidyanathan)指出,AI伺服器所需的記憶體容量是傳統伺服器的5到6倍。而HBM的高頻寬和容量,可順暢處理大量資料集和複雜運算,滿足AI伺服器的硬體需求。 

除了AI伺服器之外,HBM在汽車產業也占一席之地,自駕車和駕駛輔助系統(ADAS)開發就是一例。自駕車和駕駛輔助系統在駕駛期間會收發巨量資訊,須仰賴如HBM的高速資料處理能力,以回應複雜計算和即時資料統整需求。產業市調機構Mordor Intelligence指出,伴隨AI和無人車應用的崛起,HBM市場規模不斷擴張,預期未來5年的CAGR(年均複合增長率)將超過25%。 

HBM 在記憶體領域的優勢 

HBM 的主要優勢在於其3D堆疊架構。傳統DRAM記憶體是將晶片平放在電路板上;而HBM則是將多片DRAM晶片垂直堆疊,並以矽穿孔(Through Silicon Vias, TSV)技術連接,使晶片更加輕薄。這種創新的設計有兩個優點: 首先是增加頻寬,其垂直堆疊架構使得記憶體和處理器之間介面更寬,創造了「門」讓資料同時傳輸。這可大幅增加頻寬,使資料傳輸速度比傳統DRAM快上許多。 

再者是縮小使用空間:垂直堆疊記憶體晶片之後,HBM使用的空間傳統DRAM模組小。這對於空間有限的應用特別有利,例如講求尺寸精巧的AI晶片;考量到資料中心動輒布置成千上萬個機櫃,導入HBM可以節省的空間將特別可觀,這也是提高終端消費者空間使用效率的有利因素。 

SK海力士、三星、美光,主導HBM全球供應 

全球HBM市場領導者目前共有三家主要廠商,分別是:SK海力士(SK Hynix)、三星(Samsung)和美光(Micron)。 

SK海力士是目前HBM市占率第一的廠商,SK海力士是業界率先觀察到HBM市場潛力的業者,持續開發相關堆疊技術,使得SK海力士逐漸成為市場領導者。 

整體而言,雖然三星仍是DRAM市場霸主,但他們對HBM的洞察顯然不夠深刻,才會讓競爭力相形較弱的SK海力士後來居上,反而領先三星建立起先行者優勢。目前三星正急起直追、擴大HBM產量,但近期送交輝達驗證的HBM產品據傳有過熱問題,若以良率看來,三星正陷入一場艱苦的追逐戰。

至於美光是三家領導品牌中市占率最小的一家,落後SK海力士和三星。然而美光正積極在HBM市場上競爭,以HBM3E收獲輝達H200的GPU訂單,以至於其他科技公司的大單。美光正利用其良率較高的優勢,擴大市場占有率。 

台灣HBM相關企業和記憶體概念股 

力成(6239) 

力成本就是記憶體封測市場領導廠商,今年開始積極參與HBM的封裝和測試;力成以原有的技術實力和市場地位,正努力成為HBM產業鏈中的要角。 

華邦電(2344)、南亞科(2408) 

華邦電及南科為台灣記憶體大廠,專注於DDR5、DDR4產品。由於記憶體製造商紛紛投入HBM市場,而DDR5的需求仍強勁,兩廠可望提高自身定價能力。 

HBM記憶體在AI浪潮下的重要性日益凸顯,其高頻寬、低延遲和高效能的特性使其成為高效能計算和大數據處理的關鍵技術。三星、SK海力士和美光等主要製造商在HBM市場中佔據重要地位,而力成等台灣廠商也在記憶體市場中表現亮眼。未來,隨著技術的不斷進步和市場需求的增長,HBM記憶體將在更多領域中發揮重要作用。  (相關報導: AI到底幫微軟賺多少錢?部門業績歸屬微調,讓投資者看更清楚 更多文章


責任編輯/周岐原 

因為你,我們得以前進,你的支持是我們的動力
更多文章
學非所用不怕!「產業新尖兵計畫」助大學生趨勢技能 轉職高薪科技業
27歲單親媽媽逆轉人生 參加職訓進入長照產業開啟新未來
安麗希望工場慈善基金會 愛陪伴課輔計畫夏令營 陪伴偏鄕孩子創造健康的夏日印象
出門多久要關變頻冷氣?台電公布正確答案,超過1時間沒關「狂耗電傷荷包」
台新金控、新光金控董事會通過合併計畫 「新新併」攜手合作、共創未來
銷量逐步下滑 傳美規 Infiniti Q50 將於 2024 年底前停產
記得儲水!1縣市明天起大停水「整天完全沒水用」,家裡有無供水一鍵查詢
超過80%用戶沒在付費,每年卻賺5億美元!Duolingo成功的秘訣是什麼?
BMW 預告全新 M2 賽車
「曾入圍必比登、李登輝都吃過」 台北4大鰻魚飯又一間宣告熄燈!只剩下這2家…
中小企業、SOHO族專用!Acer推新「Wifi7」桌電 2功能兼顧:創作、程式設計都適用
全球航海王再度啟航!缺船、缺櫃、供應鏈吃緊,航運股強勢
最能代表台灣的食物不是雞排、滷肉飯!內行點名1小吃:紅遍全球、人人都愛
僅提供長軸距車體 美規 2025 Volkswagen ID.Buzz 將於年底開始交車
2024 MAZDA MX-5 RS小改款ND3試駕,勾起那曾經擁有的美好時光
滲透嚴重!520後國安偵防案件增加 中共涉利誘我基層官兵竊密及介選
台東古道登山團遭虎頭蜂圍攻!嚮導叫學生往前跑 押後被螫逾50處喪命
臺灣保險業首度獲獎! 南山人壽獲頒2024年國際開放組織The Open Group創新卓越獎
換標的歐寶 / 折合新臺幣 145 萬元起 全新世代 Vauxhall Grandland 正式在英國上市
老師們領錢了!1縣市符合資格「2000元紅包直接領」,代理教師也能拿
中國籍男主播暴走「釣魚台是中國的、勿忘南京大屠殺」 NHK嚇壞切割:擬索賠提告!
好人緣狂吸「藍勾勾」祝賀!賈永婕接101董事長 公關女王3字形容她
勞工領錢了!符合調件勞動部「每月發9200元」,最多連領12個月,申請方式一次看
《華爾街日報》預測賀錦麗國安團隊「大換血」!布林肯、蘇利文、奧斯丁都將去職
台灣1產業大熱「年賺破1.3億」需求還在飆!5年增近10倍…全因台人觀念改變了
為何7-11努力賣霜淇淋,卻超越不了全家?背後2大關鍵策略!創造不可撼動的地位
CP最高的火鍋吃到飽不是千葉、涮乃葉!內行推1間「肉質軟嫩、湯頭不死鹹」:值得一再回訪
天氣預報》颱風珊珊持續增強!雨區擴大「雷雨狂炸整周」,變天時間點曝光
最難吃的便當菜是什麼?竟然不是三色豆!眾人點名這1樣:該從地球上消失
南韓酒店失火釀7死11傷!房客「8樓跳氣墊」仍身亡 樓梯間、走廊找到死者…
AI市場泡沫化?經濟學家示警「別輕易做空」 點出這走勢就是破裂信號
賴清德政府上任後首批高階訪團 金融時報披露吳釗燮、林佳龍本周訪美 
新青安會引發房市泡沫?央行罕見出手拆未爆彈!內行曝關鍵因素
「新新併」拚居第4大金控 台新金董事長吳東亮:兄弟登山已離峰頂更近
新光金董事會討論新新併 吳東進二女兒吳欣儒等3人投反對票
中國不只有「爛尾樓」,現在還有「爛尾娃」!青年失業率居高不下,催生流行新熱詞
不是中山、信義!台北市1區房市交易量暴增119%,最新實價登錄數字曝光
央行祭限貸令處理新青安 蔡正元直言「方向錯了」:苦果3年後就會出現
本周最強內幕》李孟諺小三藏10年,最短命部長被誰盯上?軍方屢傳低級錯誤,顧立雄請檢調大頭目幫抓鬼
交通罰單地址可以更改嗎?公路總局教2招輕鬆換,再也不用擔心被爸媽看到
下任澳門特首是誰?澳門終審法院院長岑浩輝呼聲高
幕後》又是台南幫!賴清德為何執意要「不講獨立」的他接掌海基會董事長?
房市7月仍居高不下 楊金龍親自找34家國銀總經理「喝咖啡」
房市跟天氣一樣超級熱:北台灣新建案市場風向球出現今年第三個黃紅燈
股票投資組合是什麼?該如何資產配置?內行人教1策略曝最佳組合
中國股市2024年下市企業將創歷史新高
國旅雪崩不只是住宿害的!網曝台灣景點1致命痛點:沒必要再回訪
幕後》綠營「喬王」出事了?柯建銘曾赴中投資疑陷金錢爭議 逾10年的糾紛再浮上水面
調查》脆弱的俄軍義務兵會是台灣寫照?國軍走「歐美路子」強化義務役戰力