突破AI記憶體牆！美光全球首款512GB DDR5伺服器模組亮相，單機容量上看12TB、2027年下半年量產

當AI伺服器競賽從GPU算力一路延伸到記憶體容量、頻寬與功耗，記憶體正成為資料中心擴張的下一道瓶頸。美光科技（Micron Technology）今（16）日宣布，已在多個伺服器平台展示全球首款512GB DDR5 RDIMM，最高傳輸速率達9,200 MT/s；若搭載於具備24個記憶體插槽的雙路伺服器，單機DDR5記憶體容量最高可達12TB。AMD與Intel正展開平台驗證，美光預計2027年下半年配合客戶需求量產。

隨著大型語言模型（LLM）、代理型AI、即時推論及高核心數CPU工作負載快速普及，伺服器面臨的問題已不只是算力不足。當模型與資料集規模持續擴大，若主記憶體容量或頻寬跟不上，系統就必須頻繁將資料移往速度較慢的儲存層，增加資料搬移時間、能源消耗及基礎架構成本。

美光此次把單條DDR5 RDIMM容量提高至512GB，目的就是讓更大的模型與資料集直接常駐主記憶體，縮短資料與運算引擎之間的距離，並降低對SSD等儲存層的依賴。

美光指出，512GB DDR5 RDIMM的高密度，來自其垂直互連封裝技術。透過直通矽晶穿孔（Through-Silicon Via，TSV）垂直堆疊DRAM晶粒，可在單一DRAM封裝內提高容量，同時維持資料中心所需的傳輸效能。

在不改變既有伺服器規格尺寸的情況下，配置24個記憶體插槽的雙路伺服器，若全數搭載512GB RDIMM，整機記憶體容量最高可達12TB，可望支援更大規模的AI模型、記憶體內資料庫及高密度虛擬化環境。

美光資深副總裁暨雲端記憶體事業部總經理Raj Narasimhan表示，512GB RDIMM可實現數TB容量等級的伺服器，讓更龐大的資料集維持在運算引擎附近，支援更大規模的AI與資料庫工作負載、更高的虛擬化密度及更佳的功耗效率，而且不必擴大既有伺服器尺寸。

高密度記憶體帶來的效益不只容量提升。美光表示，相較以四條128GB RDIMM組成相同的512GB容量，單條512GB RDIMM的運作功耗可降低超過60%。

這項比較並非代表整台伺服器功耗降低60%，而是指相同記憶體容量下的模組運作功耗差異。對大規模資料中心而言，減少記憶體模組數量，可望進一步降低伺服器散熱與用電負擔，並在有限的機櫃空間內提高記憶體配置密度。

在效能方面，美光公布，在以Spark支援向量機（SVM）為基礎、受記憶體效能限制的資料分析工作負載中，512GB RDIMM相較256GB DDR5組態，效能最高可達1.4倍。

美光也將RocksDB、Redis等記憶體密集型資料庫及快取平台列為主要應用場景。透過提高單機記憶體容量，可讓更多資料留在主記憶體內，改善吞吐量、增加並行處理能力，並支援更大規模的資料集。 （相關報導： SEMI大師論壇》AI資料中心把記憶體推向缺貨！美光：HBM、DDR與SSD需求同升，邊緣裝置又來搶產能 ｜ 更多文章 ）

為加快導入伺服器市場，美光目前正與AMD及Intel合作，針對次世代伺服器平台進行512GB DDR5 RDIMM驗證，以確認相容性及後續部署條件。

AMD運算與企業AI平台解決方案工程企業副總裁Amit Goel表示，AI與資料密集型工作負載正在重塑基礎架構需求，AMD與美光透過運算及記憶體技術合作，希望為規模與複雜度持續提高的工作負載，建立更均衡的基礎架構。

Intel資料中心事業群平台與系統工程總經理Karin Eibschitz Segal則指出，AI及其他資料密集型工作負載的成長，讓記憶體容量與頻寬對整體系統效能的重要性持續提高。Intel正與美光合作驗證512GB DDR5 RDIMM，為未來伺服器平台導入做準備。

企業客戶也開始關注超高容量記憶體的應用。JPMorganChase基礎架構平台資訊長Darrin Alves表示，隨著資料中心工作負載成長，企業更重視如何在運算、記憶體與效率之間取得平衡；更高容量的記憶體技術，有助支援大型記憶體內工作負載、提高資源使用率，並增加運算環境的擴充彈性。 （相關報導： SEMI大師論壇》AI資料中心把記憶體推向缺貨！美光：HBM、DDR與SSD需求同升，邊緣裝置又來搶產能 ｜ 更多文章 ）

美光預計於2027年下半年，配合客戶需求量產512GB DDR5 RDIMM。不過，公司此次尚未公布送樣時程、首批採用客戶及實際產量規模，後續仍須觀察AMD、Intel平台驗證進度，以及雲端服務商、AI資料中心與大型企業導入超高容量記憶體的速度。