# AI推論  

記憶體IC設計業者補丁科技（7947）將於9月16日以每股參考價740元登錄興櫃。隨AI客製化記憶體設計服務收入放大，依兆豐證券興櫃研究報告所列資料，補丁科2026年前7月營收達13.41億元、稅後淨利7.87億元，每股盈餘（EPS）13.04元，營收已是2025年全年的1.63倍；目前AI記憶體業務占營收比重也升至約40%，首批客戶產品預計2027年進入量......

AI推論模型愈來愈大、對話脈絡愈來愈長，記憶體與電力逐漸成為比運算晶片更難繞開的硬限制。微軟（Microsoft，NASDAQ：MSFT）Azure硬體系統暨基礎設施總裁Rani Borkar 2日在SEMICON Taiwan 2026大師論壇表示，AI基礎設施的瓶頸很少能在問題出現的單一環節解決，必須從模型、編譯器、晶片、網路到供電共同設計，目標是在相同......

輝達（NVIDIA，英偉達）坐穩AI晶片王座，可能撼動黃仁勳的卻未必是老對手AMD，而是每天向輝達採購晶片的「自己人」。知識力科技執行長曲博在《下班國際線》節目中指出，Google不只長期與博通合作，如今又擴大與Marvell合作；Anthropic甚至建立自己的晶片團隊。當AI最大客戶紛紛變成晶片設計者，輝達面對的已不是普通價格戰，而是客戶開始想辦法「戒掉......

當生成式AI從大規模模型訓練走向無所不在的推論應用，資料中心的下一個瓶頸，正從GPU算力延伸至資料存取與搬移。韓國企業級SSD控制器廠FADU（KOSDAQ：440110）商務長金泰均（Tony Kim）20日表示，隨著長文本、AI代理（AI Agent）及KV Cache（鍵值快取）資料量快速增加，SSD已不再只是被動保存資料的後端設備，而開始成為AI運算......

AI的下一場戰爭，不是更大的模型，而是更高效率的智慧—從 Token Economics 到 Edge AI，重新定義全球AI產業的下一個十年過去三年，全球AI產業幾乎都圍繞著同一個問題：誰擁有最大的模型？誰建造了最多的GPU叢集？誰投入了最多的資本興建超大型資料中心？從參數規模、訓練算力到基礎建設，AI似乎一直是一場「愈大愈好」的競賽。然而，如果仔細觀察近......

當全球AI競賽從模型訓練進入大規模推論與AI代理人時代，半導體產業的戰場也正在改變。過去資料中心效能多半聚焦GPU算力，如今記憶體頻寬、容量與儲存效率，正成為影響AI系統能否持續提升Token產出量的關鍵瓶頸。記憶體大廠美光科技（Nasdaq：MU）於COMPUTEX 2026期間展示完整AI最佳化記憶體與儲存產品組合，從HBM4、高容量SOCAMM2、DD......

AI基礎設施競賽正在從「GPU夠不夠」走向「CPU如何支撐大規模推論與代理人部署」。美國半導體大廠英特爾（Intel）執行長陳立武今（2）日在COMPUTEX 2026主題演講與會後記者會中指出，隨著代理式AI（Agentic AI）興起，CPU在資料中心的重要性正快速上升。他更在會後記者會中透露，過去4週有許多CEO打電話給他，需求都很直接：「我需要更多C......

高通（Qualcomm）正式揭開重返資料中心市場的新篇章。高通總裁暨執行長Cristiano Amon今（1）日在台北電腦展（Computex）開幕主題演講尾聲宣布全新品牌Dragonfly，正式將業務版圖延伸至資料中心推論（Inference）運算市場，將並透露目前已與超大型雲端服務商及全球合作夥伴展開實際部署，更多產品路線圖與布局細節，將於6月24日在紐......

當全球AI基礎設施市場長期由NVIDIA掌握主導權，AMD要如何挑戰這座高牆？蘇姿丰今（22）日給出的答案，不是只靠GPU硬碰硬，而是押注AI運算架構正從訓練走向推論，下一場競爭將不只看GPU，也要看CPU、ASIC，以及每一美元能產出多少Token的成本效益。她預估，光是資料中心AI基礎設施市場，未來三、四年規模就將超過1兆美元。 AMD如何挑戰NVIDI......

隨著全球對運算能力的需求持續飆升，愈來愈多晶片新創公司冒出頭，試圖挑戰輝達（Nvidia）在AI領域的絕對統治地位。其中，總部位於英國倫敦的半導體新星Fractile，目前正處於2億美元（約新台幣64億元）新一輪融資的談判階段。《金融時報》引述知情人士消息，Fractile正在與包含風險投資公司Accel在內的多名投資人深入討論，目標是在這輪融資中、取得高達......

AI需求持續擴張，輝達收購Groq之後，有望變身為大規模算力中心提供者，LPU機櫃出貨可期待自下半年大幅成長，水冷等AI供應鏈營運再旺一波。文／林麗雪去年底，輝達與Groq達成價值200億美元的授權與人才協議，讓Groq這間AI晶片與系統新創公司更加聲名大噪，其核心產品為專為高速執行大型語言模型設計的LPU（語言處理單元）晶片，被視為GPU在推論領域的強力競......

AI推論需求拉升，加上4年一次的汰換周期到來，微軟及谷歌通用型伺服器意外大拉貨，並至少延續至年中，供應鏈喜吞AI伺服器之外的意外大單。文／林麗雪過去一段時間，被遺忘許久的通用型伺服器，出貨量顯著回升，有業者直言，拉貨的幅度高仰角成長，這打破了之前AI伺服器一枝獨秀的出貨的局面，相關供應鏈營運樂翻，從BMC大廠信驊、機殼大廠勤誠、CPU Socket的嘉澤、記......

串流平台TikTok母公司、中國科技巨頭字節跳動（ByteDance），傳出積極開發自家專屬人工智慧（AI）晶片，並計畫與南韓三星電子（Samsung Electronics）聯手合作，最快將在3月底之前，取得名為「SeedChip」的晶片樣品。《路透》引述知情人士說法，字節跳動計畫、2026年至少能生產10萬顆，專為AI推論（AI inference）任務......

AI晶片霸主輝達再度對外界投下一顆震撼彈。市場傳出，輝達以約200億美元（約新台幣6300億元）的規模，取得AI晶片新創Groq的關鍵技術資產與核心人才，創下輝達史上最大等級的單筆技術授權交易。這項動作並非傳統併購，而是透過非獨家授權與延攬高階主管的方式，直接切入AI推論（inference）關鍵戰場，讓Groq一夕之間成為全球半導體與人工智慧產業的焦點。這......

人工智慧產業的重心正悄然轉移。隨著AI應用逐步走出模型訓練階段，進入大量即時回應與資料調度的推論應用，全球半導體產業的獲利結構也開始出現實質變化。多名產業分析師與投資圈觀察指出，長期由晶圓代工主導的獲利排序，正面臨一場關鍵洗牌，記憶體產業重新成為資本市場的核心焦點，市場評估，今年第4季全球記憶體龍頭的獲利能力，可能首度在關鍵指標上壓過長年居冠的台積電，這不僅......

記憶體股價漲多拉回，是中場休息還是一波到底？第一波股價齊頭式大漲，海水退去誰沒穿褲子，會反映在財報上。文／黃冠豪近期記憶體現貨市場報價出現波動，部分通路商傳出雜音，但若投資人走進各大記憶體原廠與模組廠的法說會現場，聽到的卻是完全不同的故事。消費性電子需求看似疲軟，但雲端服務供應商的採購單接踵而至，這不僅僅是周期性的反彈，更是一場記憶體產業十年一遇的結構性重估......

AI浪潮仍在翻湧，市場焦點正悄悄從晶片轉向基礎建設。高盛證券最新報告直指，客製化與高速連接將是新一輪AI基礎建設循環的兩大核心，帶動全球800G交換器市場價值快速膨脹。預估到2026年，AI運算資料中心交換器的市場規模將突破500億美元。這場戰役的關鍵，不僅在誰能設計出性能最佳的晶片，而是誰能提供更靈活、更穩定的網路骨幹，讓AI的龐大算力得以流暢運行。為何「......