當生成式AI從大規模模型訓練走向無所不在的推論應用,資料中心的下一個瓶頸,正從GPU算力延伸至資料存取與搬移。韓國企業級SSD控制器廠FADU(KOSDAQ:440110)商務長金泰均(Tony Kim)20日表示,隨著長文本、AI代理(AI Agent)及KV Cache(鍵值快取)資料量快速增加,SSD已不再只是被動保存資料的後端設備,而開始成為AI運算架構的一環。FADU最新PCIe Gen6控制器已完成供貨準備,預計今年下半年啟動出貨,循序讀取速度最高達每秒28.5GB;次世代Gen7控制器則以每秒57GB為開發目標,規劃2028年向客戶送樣。
FADU成立於2015年,並於2023年在韓國KOSDAQ掛牌,目前約有300名員工,據點遍及韓國、美國、中國、台灣及波蘭。金泰均加入FADU以前,曾在三星電子任職超過30年,歷任策略規劃、儲存及新世代記憶體等業務。他指出,記憶體與儲存產業過去歷經多次技術轉換,而AI正帶來新一波結構性改變。
AI從訓練走向推論 SSD不再只是資料倉庫
金泰均表示,超大型雲端服務業者仍持續擴大AI基礎設施投資,但市場機會已逐漸由AI訓練轉向AI推論。相較於相對集中的模型訓練,推論必須長時間回應大量使用者請求,也需要更頻繁地存取及移動資料,使儲存在AI基礎架構中的重要性明顯提高。
尤其隨著對話長度增加及AI代理普及,推論過程所產生的KV Cache快速膨脹。若將所有資料都放在價格高昂、容量有限的GPU記憶體,不僅成本增加,也可能形成容量及資料搬移瓶頸;部分資料因而可以卸載至系統記憶體或高效能企業級SSD,建立更具成本效益的分層儲存架構。
「SSD不再只是儲存資料,而是變成AI資料架構的一部分。」金泰均說,AI工作負載需要高頻寬、低延遲,以及穩定且可預測的效能,不能只看單顆SSD在特定情況下的峰值速度,而必須衡量儲存設備能否提升整體系統效率。
不過,SSD卸載並不代表NAND Flash將取代HBM或GPU記憶體,而是透過不同層級的記憶體與儲存設備分工,把必須即時運算的資料保留在GPU記憶體,其他容量較大、使用頻率不同的資料則移往系統記憶體或企業級SSD,以降低高成本記憶體的壓力。
AI資料中心不只比速度 能源效率成新戰場
除了資料存取效能,能源效率也成為企業級SSD的重要競爭指標。金泰均指出,AI資料中心消耗大量電力,電費已是主要營運支出之一。對超大型資料中心而言,即使單顆SSD的耗電量只降低一小部分,在成千上萬顆設備的大規模部署下,累積效益仍可能相當可觀。
因此,新一代SSD控制器不能只追求更快速度,還必須同時兼顧功耗、穩定延遲、可靠度及服務品質。FADU透過自有硬體加速架構,希望消除傳統SSD控制器瓶頸,將產品目標歸納為「更高效能、更低功耗與更佳效率」,並把這項方向定位為AI原生儲存。
FADU目前的PCIe Gen5控制器已透過全球合作夥伴進入量產。金泰均表示,Gen5產品已累積數百萬顆控制器的實際部署經驗,也獲得部分大型雲端服務業者採用,成為公司向Gen6推進的重要基礎。














































