[新聞] NVIDIA推核彈級GPU 搭台積4奈米製程「

[Rin5566 (派屈克)]

原文標題：NVIDIA推核彈級GPU　搭台積4奈米製程「號稱20個可撐全球網路量」
                                      (請勿刪減原文標題)
原文連結：https://reurl.cc/5GnlyV
                                      (網址超過一行過長請用縮網址工具)
發布時間：2022-03-23 14:20
                                      (請以原文網頁/報紙之發布時間為準)


原文內容：記者高兆麟／綜合報導

顯示卡大廠輝達（NVIDIA）執行長黃仁勳在22日登場的年度GTC大會上，重磅宣布新一代資
料中心Hopper架構繪圖處理器（GPU）NVIDIA H100，將採用台積電4奈米製程，效能大大提
升外，黃仁勳更說，只要20個 H100 GPU 就能撐起全世界的網路流量，顯見其效能之高。

為推動下一波人工智慧 (AI) 資料中心的發展，輝達宣布推出採用 NVIDIA Hopper 架構的
新一代加速運算平台，效能較上一代平台呈指數級成長。這個以美國電腦科學家先驅 Grace
 Hopper 命名的全新架構，將接替兩年前推出的 NVIDIA Ampere 架構。

NVIDIA 亦宣佈推出首款採用 Hopper 架構的 GPU 產品 NVIDIA H100，這款 GPU 封裝了 80
0 億個電晶體，是全球最大且效能最強大的加速器，具突破性的功能，例如革命性的 Trans
former Engine 及具高度擴展性的 NVLink 互連技術，可用於推動極大規模的 AI 語言模型
、深度推薦系統、基因組學和複雜的數位孿生等領域的發展。

NVIDIA執行長黃仁勳表示，資料中心將成為 AI 工廠，用來處理海量資料並從中提煉出寶貴
的智慧。NVIDIA H100 是全球 AI 基礎設施的引擎，讓企業得以加速推動各項 AI 業務的進
展。

NVIDIA表示，H100 擁有 800 億個電晶體，採用台積電 4奈米製程、專為滿足 NVIDIA 加速
運算需求而設計，在加速 AI、高效能運算、記憶體頻寬、互連和通訊方面具有重大進展，
包括每秒近 5TB 的外部連接速度。H100 是首款支援 PCIe Gen5 及首款使用 HBM3 的 GPU
產品，提供每秒 3TB 的記憶體頻寬。20 個 H100 GPU 便足以支撐全世界的網路流量，讓客
戶得以運行先進的推薦系統和大型語言模型，即時使用各項資料進行推論。

H100 的多項技術創新擴大了 NVIDIA 在 AI 推論和訓練的領先地位，使 NVIDIA 能夠利用
巨大的 AI 模型做到即時和沉浸式應用。H100 讓聊天機器人可以使用全球最強大的單體 tr
ansformer 語言模型 Megatron 530B，其傳輸量超過前一代產品達 30 倍，同時滿足即時對
話式 AI 所需的次秒級延遲。H100 同時讓研究人員和開發人員能夠訓練像是 Mixture of E
xperts 這類大規模模型，包含 3,950 億個參數，能將速度提高達九倍，將訓練時間從過去
所需的數週減少到數日便能完成。

NVIDIA H100 可以部署在各類型的資料中心內，包括企業內部、雲端、混合雲和邊緣。預計
今年稍晚透過全球各大雲端服務供應商及電腦製造商供貨。

NVIDIA 第四代 DGX 系統 DGX H100 搭載八個 H100 GPU，可在全新 FP8 精度下提供 32 pe
taflops 的 AI 運算表現，這個規模足以滿足大型語言模型、推薦系統、醫療研究及氣候科
學的大規模運算需求。

透過第四代 NVLink 技術連接 DGX H100 系統中的每個 GPU，能提供每秒 900GB 的連接速
度，高出前一代產品 1.5 倍。NVSwitch 技術讓八個 H100 GPU 能透過 NVLink 連接。一台
外部 NVLink 交換器可以連接新一代 NVIDIA DGX SuperPOD 超級電腦中多達 32 個 DGX H1
00 節點。

Hopper 已經獲得各大雲端服務供應商的支持，包括阿里雲、Amazon Web Services (AWS)、
百度智能雲、Google Cloud、Microsoft Azure、Oracle Cloud 和騰訊雲，這些業者計畫將
提供基於 H100 的執行個體。



心得/評論：老黃本次與台積電合作,採用台積電四奈米技術開發的產品,預期能帶來更高的
效能運用,以及更低的能源消耗※必需填寫滿30字，無意義者板規處分




--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.217.199.100 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1648086162.A.E37.html
推 EddieJeremy : 沒用 供過於求 半導體都下去吧
推 Transposon  : 耗電嗎？
推 permanent27 : 沒人用，下去
推 overno      : PS3時代，sony執行長號稱PS3蒜力能模擬地球
噓 s60621s60621: 沒用 顯卡過剩了...
推 st9061204   : 吃電怪物
推 kducky      : 法環能順跑嗎
推 ab4daa      : 蒜粒多少
推 leotompp    : 太貴~~1年後降成本再說吧~快下去
推 pimday      : 這種東西客群就是不是你散戶 在擔心啥XD
推 stosto      : 我拿4070TI就好
推 CuLiZn56    : 哇
推 xd20083     : 台積電真的猛，老黃高通蘋果amd訂單吃不完
推 season2011  : 聽你唬爛
推 stosto      : 不要說吃不完....產能遠遠不夠他們要的
推 came        : 人家拿來玩AI的，你散戶玩法環，我知道你還有錢
→ stosto      : 要擔心的是mtk，高通下一顆沒這麼弱了
推 FireSunFire : 台積電 長期投資～穩穩賺！
→ LearnRPG    : 沒用 都是拿去挖礦浪費電力的
→ cloud6732   : 沒人拿這東西在挖礦的,幾千萬的機器挖礦???
推 senma       : 普丁大量進貨
→ smalmal     : 以太幣改完後 礦卡就跟垃圾一樣了 倒出來也沒人接
→ xxxg00w0    : 拿來上PTT可以不被版主水桶嗎？不行的話 下去
噓 hegemon     : 4F都現在還被假新聞騙..他說的是贏過日本一台叫做地
→ hegemon     : 球模擬器的超級電腦....
→ a10001      : 全球網路量 有超過一顆人腦嗎
推 Mustang428CJ: 說20顆GPU可以撐起全球網路量有點行銷話術，只是
→ Mustang428CJ: 資料吞吐量而已，難道全球CISCO路由器砍光光改GPU?
→ apple123773 : 這是啥 神奇的東西
推 adagiox     : 丸子
推 mirce       : 半導體供過於求 買方市場 景氣循環股 下去
→ kevinmeng2  : NVDA早就不像amd 還在礦卡那麼可憐
→ cjf7708     : 會毀滅地球？
推 v21638245   : 只能賣20個，崩
推 Ren8648     : 散戶心態真是笑死
推 vulu04u04   : AI的世界來了~!!人人都有一台AI運算程式
推 democrat    : 台灣果然是軟體沙漠 沒人看得懂在幹嘛
推 lizardc1    : 恭喜 喊了就是崩
推 nacy204327  : 台灣軟體沙漠 認真？？？
推 thbygn98    : 看衰產品(X)股價下跌就是看衰(O)
→ laechan     : 笑死
推 kinki999    : 不是很愛用舊製程耗電嗎
推 zx610176    : 4奈米以下的時候 我看你要用什麼彈描述
→ summer08818 : Server用的東西 省電根本不是重點 是為了效能才衝
推 hduek153    : 要炸了嗎
推 yoshilin    : 那就只要生產20個就好了
→ nptrj       : 慘 只能賣20個
推 rancilio    : 單一芯片晶體管800億個，良率做得出來也真是天才
→ WWIII       : 1000w?
推 wadashi1    : ?? 挖礦有比現在的好用嗎?
推 jacid       : 20個？一個賣一億好了...
→ sp64        : 都拿去挖礦就沒那個學術意義了
→ Casper50    : 只要四個？ 怎麼做生意啊
→ ILike58     : 台灣軟體的確不太行啊，產業都綁硬體的。
推 brianooxx   : 說半導體供過於求的真的滿好笑的 顯卡看世界XD
推 yesheyman   : 說省電不是重點已經過去式了 現在因為能源成本提高
→ yesheyman   : 很多server採購都要求性能/能耗比 整間DC超耗能
→ ZO20        : 好 我後年買
推 gohow       : 喇叭
推 reverieh    : 要請零奈大大開示惹
→ aqualan     : 我大GG要完爆了，NVD只會說GG真香
→ aqualan     : 為什麼要給GG代工呢，因為三星做不出來
推 northwater  : 有殺手級應用嗎
推 gary20801   : 何時何地都能玩VR的時代到來了
推 fmp1234     : 2000w.jpg 電源供應器類股準備囉。
推 charles20267: 天網？
推 speculator  : https://reurl.cc/yQVrey
→ Numenor     : 再強有啥用，還不是通通進礦場
推 aegis43210  : H100非常強，只剩產能是個問題，GG產能有限，老黃必
→ aegis43210  : 須賣更貴才會獲利成長
推 jayemshow   : 要有吃到話題 沒吃到話題再強再猛都沒用
→ jayemshow   : 股價要飆 話題、話題、爆發性營收 沒了
推 mickl8101   : 然後LHR
推 bobboy8755  : 戰術核顯卡GTX290 真滴核彈級別 怕爆
噓 andrewkey   : 當鄉民說 沒用 下去 , nvidia就爆漲了 科科