# 記憶體牆  

AI推論模型愈來愈大、對話脈絡愈來愈長，記憶體與電力逐漸成為比運算晶片更難繞開的硬限制。微軟（Microsoft，NASDAQ：MSFT）Azure硬體系統暨基礎設施總裁Rani Borkar 2日在SEMICON Taiwan 2026大師論壇表示，AI基礎設施的瓶頸很少能在問題出現的單一環節解決，必須從模型、編譯器、晶片、網路到供電共同設計，目標是在相同......

AI記憶體的下一戰，不只是把HBM堆得更高，而是直接改變記憶體與GPU的配置方式。南韓記憶體大廠三星電子（Samsung Electronics）記憶體產品規劃部門副總裁崔璋石（Jangseok Choi）1日於SEMICON Taiwan 2026記憶體高峰論壇揭示下一代3D記憶體架構zHBM，將記憶體從GPU旁邊移至GPU上方；相較HBM4E，目標效能最......

AI伺服器持續堆高CPU核心數與GPU算力，但真正拖慢整體系統效能的瓶頸，正逐漸轉向資料能否及時送進處理器。工業儲存與記憶體模組廠宜鼎（5289）宣布推出新世代DDR5 MRDIMM，透過MRCD與MDB元件，以及同時存取兩列記憶體的架構，將資料傳輸速率推升至12,800 MT/s，較現有DDR5-8000 RDIMM頻寬提高60%，鎖定生成式AI、大型語言......