「Nvidia正在吞食世界!」發表擁有2080億個電晶體的超級GPU,黃仁勳安慰前代H100「沒關係的」

2024-03-19 19:30
黃仁勳在輝達GTC的大會介紹Blackwell(左)與前代的Hopper晶片(右)。(翻攝輝達GTC大會直播影片)
黃仁勳在輝達GTC的大會介紹Blackwell(左)與前代的Hopper晶片(右)。(翻攝輝達GTC大會直播影片)

「這(左手)是改變世界的Hopper,而這(右手)是Blackwell。」(然後黃仁勳在台上安慰明顯小了一號的前代AI晶片,說,「Hopper沒關係的」,引來哄堂大笑)

黃仁勳在輝達GTC的大會介紹Blackwell與前代的Hopper晶片。(翻攝輝達GTC大會直播影片)
黃仁勳在輝達GTC的大會介紹Blackwell與前代的Hopper晶片。(翻攝輝達GTC大會直播影片)

科技媒體《WIRED》上個月以〈輝達硬體正在吞噬世界〉(Nvidia Hardware Is Eating the World)為題,報導Nvidia如何靠當初起家的GPU(圖形處理器),從X世代遊戲顯卡的主要供應商,一躍成為人工智慧時代最重要的運算動力供應者。擁有超級算力的Nvidia GPU甚至被《WIRED》看好,未來十年將繼續在AI領域獨占鰲頭。時隔不到一個月,黃仁勳竟又拿出了Hopper GPU的下一代產品—無論算力與能耗都大有進展的Blackwell,觀看直播的外國網友再次驚嘆「Nvidia eats world」!

穿著招牌皮衣的黃仁勳在GTC大會的主題演說中坦言,通用運算已經失去動力,但當前AI模型的參數量仍在瘋狂成長,以OpenAI的GPT-4為例,動輒處理數十億token、參數上看1.8兆。因此黃仁勳說,「我們需要更大的模型,我們需要更大的GPU」。當AI模型仍在大步邁進,輝達發表了比市場瘋搶的H100還要更火熱的Blackwell,這也把八年來的AI算力進展推上了千倍之譜。擁有2080億個電晶體的Blackwell,就是為了在數兆參數上建構和運行生成式AI而來,也難怪黃仁勳要當眾安慰無論個頭與實力都矮了Blackwell一截的Hopper。

黃仁勳介紹輝達在Blackwell世代的合作夥伴,其中有許多都是台灣廠商。(翻攝輝達GTC大會直播影片)
黃仁勳介紹輝達在Blackwell世代的合作夥伴,其中有許多都是台灣廠商。(翻攝輝達GTC大會直播影片)

黃仁勳強調Blackwell是目前最強大的晶片,也是輝達首個採用多晶片封裝設計的GPU。兩塊小晶片之間的連網速度高達10TBps,黃仁勳表示,Blackwell沒有記憶體局部性問題或快取問題,CUDA(Compute Unified Device Architecture,統一計算架構)也將其視為單一GPU。Blackwell配備192GB、速度達到8Gbps的HBM3E記憶體,AI算力達到20 petaflops ,前代H100的4 petaflops完全被拋在腦後。雖然黃仁勳自己也將Blackwell稱為晶片,但他也說Blackwell不是晶片名、而是平台的名字。採用Blackwell架構的GPU除了B200,還有整合了Grace CPU與兩個B200 GPU的GB200。高效整合的多die晶片,讓輝達在製程升級速度減慢的狀況下,仍有辦法大幅推升算力。 (相關報導: 美國經濟在後新冠時代轉變 聯準會主席的沉默讓市場沮喪 更多文章

黃仁勳表示,B200 GPU透過2080億個電晶體提供高達20 petaflops的FP4吞吐量,GB200 GPU則透過每秒900GB超低功耗晶片連接,將兩個B200 GPU與一個Grace CPU進行整合。如果是GB200這塊超級晶片,比起H100 GPU提供了30倍的推理效能改善,能耗也降低了25倍之多。黃仁勳並未在演說中透露Blackwell的價格,不過他在台上打趣「(Blackwell的)原型主板價值100億美元,第二塊是50億美元,不過之後就會變得更便宜」要現場的潛在客戶不要擔心價錢。

黃仁勳在輝達GTC的大會介紹Blackwell與前代的Hopper晶片。(翻攝輝達GTC大會直播影片)
黃仁勳在輝達GTC的大會介紹Blackwell與前代的Hopper晶片。(翻攝輝達GTC大會直播影片)
更多文章
選後啟動黨務革新!王義川檢討選舉宣傳:影片都同溫層在看,年輕人沒看到
共軍「三海連動」為海上鬥爭準備 國安局:朝週期化戰訓發展對台威懾
新北與桃園聯合推動東門溪整治 鳳鳴滯洪池力拼「114年底完工」
彰化啟動青年永續經營服務計畫 歡迎青創團隊報名
以市民為出發點《台中通》三度獲國際大獎  盧秀燕強調數位力就是競爭力
中保科秀亞洲最美5G智慧交通柱,以AI算力強攻AI北中南智慧園區市場
8年來最低!兆豐金考慮5因素「股利配發率估不到80%」
職籃T1聯盟大巨蛋雙北對決 蔣萬安、侯友宜將蒞臨開球
質疑朱立倫違反黨章 孫健萍提案組改無效:整併措施應全數暫緩
紀念林維源誕辰 板橋林家花園推出3月壽星入園贈好禮!
南投梅子節3/30開鑼 系列活動+品嘗梅子創意料理
全國繁星錄取人數前10名 新北囊括3所 、 2,296名學生上榜成果豐碩!
中市河川揚塵科技防護 獲智慧城市創新應用獎肯定
美國經濟在後新冠時代轉變 聯準會主席的沉默讓市場沮喪
主持新店行動治理座談 侯友宜:做好完整規劃因應人口移入!
打造親子同樂藝術饗宴 中市兒童藝術節4/5開跑
「雙新自行車道」4/11啟用 楊文科:將持續打通桃竹竹觀光路線
改善既有水岸環境 中市大智排水水環境改善整體計畫啟動
暨大附中特殊選才結果公布 許縣長致賀錄取同學
新北市轄2,468輛公車免費WiFi皆無使用華為廠牌
協助青年掌握職場資訊 中市勞工局3月起前進校園設攤
中市考生祈福活動3/20開放線上報名 參加可獲吉豆貓聯名祈福禮包
「樂齡教育奉獻獎」竹市獲2獎 高虹安頒獎嘉勉獲獎教師與志工
1歲男童剴剴死因曝光!營養不良致橫紋肌溶解 被保母「活活餓死」
新北老市場重建有辦法 公私協力創造多贏共榮的市場新風貌!
雙北聯袂出擊!新北中信特攻與臺北台新戰神 4/13-14共同主辦「攻戰大巨蛋-雙北反毒籃球賽」
PLG新北國王道歉了!承認林書豪「誤用禁藥」:不知道違規 最重恐永不錄用
拜託媽祖「賜死媽媽」!女信徒不捨癌末母受折磨…1年後來還願了
車位賣200多萬,為何不用租的就好? 過來人曝1原因!不買真的不行
父母贈與房產給子女設定抵押權,小心死後被課大筆遺產稅!律師教1招,節稅又能避免不肖
大老闆通勤時間都在做什麼?為什麼他們總是創意滿滿,原來他們搭車都在觀察這些事
外國人士也瘋嘉義虎爺 天衍互動「虎爺丟元寶」傳統文化添新意
沒買到00940別緊張!10大熱門台股ETF出爐,存股族趕緊筆記
月薪上看5.5萬!北水處徵才資訊出爐,近2年錄取率逾10%,搶攻鐵飯碗趁現在
呂秀蓮質疑「為何319案發第二天就定調一槍兩彈?」侯友宜:人證物證都在
疑接受性8次招待!陳宗彥喊「我不是陳董」 監院移請南檢調查:尚難採信
告別負利率日圓不升反貶?專家揭3關鍵:投資人趁機下車
鐵鍬虐殺同學「死者臉部被敲爛」埋屍菜園!3國中生遭逮無悔意「拘留室淡定睡覺」
晚安小雞「千字家書」揭獄中狀況!發燒時「獄友贈消炎藥」:這裡人都對我很好
內褲沾到頑固血漬、尿漬怎麼辦?達人用1便宜好物,免狂搓就恢復潔白乾淨如新
國民黨要求蔡英文卸任前登島太平島 民進黨酸:先上網看國際新聞
枯水期水庫蓄水量銳減 水利署調整4縣市「水情提醒綠燈」
回顧2022年訪台爭議,美國眾院前議長裴洛西:我是「應邀訪問」,無關支持台獨或改變「一個中國」
創新洗地科技登場:Dyson WashG1™雙驅四刷無線洗地機在台上市  地板乾濕清潔一機即能輕鬆到位
北捷票價將跟進電價上漲?蔣萬安曝營運成本占比:盼中央給優惠
打造河岸環境、安全通行步道!茄萣大排上游段欄杆整建 全線帶來新風貌
高市政會議清明連假建議掃墓分流、提早祭拜 陳其邁:民眾注意公墓防火安全
比利時台北辦事處與嘉義縣交流取經 共同推動文化科技輸出國際
買東西除4的時代掰了?日本解除負利率 業者曝台灣人旅遊意願可能變化