[新聞] 「HBM之父」：未來AI競爭看記憶體

[robertgarcia (綠頭鴨)]

新聞標題：
「HBM之父」：未來AI競爭看記憶體 未來3D架構決勝散熱與供電 中美會追趕上來

新聞記者：
鉅亨網／記者　陳韋廷

新聞內容：
被韓媒譽為「HBM 之父」的韓國科學技術院 (KAIST) 教授金正浩 (Kim Jung-ho) 最新表
示，AI 的本質就是記憶體。

他在接受《東亞日報》專訪時提出上述顛覆性觀點時指出，過去業界過度聚焦模型算法與
 GPU 算力，但當大模型實際運行時，注意力機制、上下文緩存 (KV Cache) 與推論生成
的每一個環節，都高度依賴記憶體系統的支撐。

金正浩表示，HBM 透過將多層 DRAM 垂直堆疊，大幅拓展資料傳輸的「車道數」，並生動
比喻稱「傳統記憶像 8 道高速公路，HBM 則是 1024，甚至 2048 車道，未來可能演進至
百萬車道」。

然而，頻寬的提升並未根除瓶頸。大模型在輸出瞬間需頻繁從 HBM 或未來的 HBF(高頻寬
閃存) 讀寫資料，導致 GPU 絕大部分時間處於「等待資料抵達」的閒置狀態。

金正浩估計，即便部署百萬個 GPU，真正用於計算的時間僅約 10%，即便透過演算法優化
，也很難超過 30%。

為解決「資料搬運」的能耗與延遲問題，金正浩預測未來 AI 運算將走向「以記憶體為中
心」。

他將理想的 3D 架構比喻為一棟百層大樓：「在一樓安裝 GPU，資料只需搭電梯下樓計算
，整棟樓解決所有事，省去長途奔波。」從 HBM4 開始，部分 GPU 功能將整合進記憶體
結構中。

金正浩還進一步描繪三層異質記憶體指出，速度最快的 HBM(堆疊 DRAM) 扮演百貨公司存
放熱數據，容量巨大的 HBF(堆疊 NAND) 如同公寓樓群存放冷數據，而他提出的 HBS(高
頻寬 SRAM) 則作為超低延遲的緩存。GPU/CPU 將置於頂層，專注於散熱與調度。

金正浩特別點出，輝達執行長黃仁勳近期頻繁訪韓，正因 GPU 微架構的效能成長已近停
滯，且高發熱特性使其難以像記憶體般大規模堆疊。

他認為，未來 3D AI 電腦的供電與散熱能力將成核心競爭力，決定企業生死。這也意味
著擁有 DRAM 與 NAND 雙重技術累積的三星與 SK 海力士，有機會在未來架構中佔據核心
地位。

不過，金正浩也警示，這並非簡單的「GPU 時代」切換為「記憶體時代」，而是 GPU、
HBM、先進封裝、網絡互連與散熱的系統級競賽。

面對中國業者積極自研 GPU/NPU 並帶動本土記憶體發展的追趕壓力，金正浩則對韓國業
界直言：「這是一場關係生存的長期競爭，只能努力活到最後。」


完整新聞連結：
https://news.cnyes.com/news/id/6528299

備註：
三星第二季都賺贏輝達了
HBM三大廠加起來賺不知道台積電的幾倍
整個DRAM產業營收已經贏過邏輯ic
CPU/GPU算再快沒有記憶體也沒用

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 39.10.64.205 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1783766371.A.213.html
→ gayst       : gpu過剩 崩崩
→ jason168    : 可惜台灣吃不到HBM這塊大餅Orz
※ 編輯: robertgarcia (39.10.64.205 臺灣), 07/11/2026 18:40:56
推 DiamondAse  : 早說，怎麼不早說
推 ggirls      : 中韓你們希望誰贏？這可不是大奶的決擇
噓 kakalin     : 單純是記憶體補跟上GPU和CPU 發展而已 這咖太浮誇
※ 編輯: robertgarcia (39.10.64.205 臺灣), 07/11/2026 18:44:13
→ Plumpy      : 吹起來
推 kmtkmtkmt   : 我記得之前有個鄉民也說過 類似這種  還真的漲起來
→ kmtkmtkmt   : 錢真的是留給該賺的人的
→ kmtkmtkmt   : 現在買都太慢了
→ weijunW     : 中美一大根
→ kmtkmtkmt   : 我只有一張50元買的南亞科  買個50.100張 根本發了!
推 white1861   : 記憶體死抱 3年！
推 seemoon2000 : 記憶體的爆發還是來自AI Agent才有的 堆疊上下文
→ seemoon2000 : 模型遲早會有更快速計算的方式 降低堆疊上下文
→ kai55668879 : 樓下darbylu
推 foolwind    : 遲早是指50年後嗎
噓 bxc         : 不早說？
推 poeoe       : 資料量就是這麼大 跟什麼演算法也沒啥關係了
推 ssarc       : 人家就研究這個的，當然說他最重要
→ poeoe       : AI如果要貼近人類思考方式 記憶體用量只會越來越大
→ poeoe       : 而已
→ poeoe       : 更不用說以後物理模型和自駕對記憶體需求有多高了
噓 yurian      : 標題太吹 內文他明明有縮…
→ yurian      : 目前的傻ai記憶的確是個問題 但現在最大的問題不是
→ yurian      : 記憶 而是太貴 現在所有實用ai都在漲價限流 當下還
→ yurian      : 是算力 但他說的電力倒是沒錯 但那也是要晶片耗電
→ yurian      : 先下降 不然記憶體無用武之地
推 windfeather : 電力：沒有我，你們通通都去踩腳踏車發電
推 PTTMAXQQ    : 這意思是做gpu的其實是過剩了
→ PTTMAXQQ    : 然後記憶體才是真的缺
推 rahim03     : 現在的算力缺不是GPU不夠 是記憶體數量跟不上
推 kmtkmtkmt   : ZZZZZZZZZZZZZ  先定義遲早是多早吧
→ kmtkmtkmt   : 講不出來就是空話
→ kmtkmtkmt   : 在那邊遲早的可以去放空  我猜你也是不敢吧
推 m180        : 買啥好？dram etf?
噓 roder       : 記憶體 is over
推 seemoon2000 : 現在記憶體毛利率90% 不合理就是不合理 沒什好說的
→ cafein      : 我還以為是泡菜
推 Brioni      : 最怕現在存儲就如同600塊的台積電，再飆上去又是消
→ Brioni      : 費電子末日
推 sim3000     : 反正我all in 988惹
推 loveponpon  : 我有10幾張均價成本200不到的南亞科
→ loveponpon  : 也有十幾張均價成本400的南亞科 哭死
推 viginia66   : 記憶體是不是最後一個題材
推 eknbz       : 人家就研究這個的，當然說他最重要
→ eknbz       : 你訪問做算法的 就會說算法才是靈魂
推 luke0407123 : 台積電趕快漲價喔☺  別賺輸記憶體
→ bear753951  : 這就是為啥nv沒怎麼漲了，瓶頸在其他地方
推 seemoon2000 : 瓶頸在巨頭快沒錢才是真的
推 brella      : 記憶體的新聞真多
推 ben108472   : NV毛利豆包記憶體卡死了，要怎麼漲
推 omanorboyo  : 瓶頸在於不是金錢無限
→ ben108472   : 毛利都被記憶體卡死了
推 g27834618   : NV股價也停滯很久了
→ sheep2009   : token要變便宜=>應用要爆發 才有用
推 david850914 : 記憶體再漲影響巨頭現金流 敘事會崩垮
推 mark60917   : 我還以為AI的未來是辛奇
→ tctv2002    : 在貴也會有上限 巨頭不可能無條件支持的
噓 lucky466    : 父就是老北，老北就是負
推 julian42    : 瓶頸在金錢沒錯 巨頭一直做不出大賺的應用就會泡沫
推 HiuAnOP     : 卡哇 IS OVER！
→ HiuAnOP     : 好到2030
噓 strlen      : 老黃不也頻繁來台灣？跟這個哪有關係
推 gtaped05550 : 怎不早說
推 DustToDust  : 記憶體要先變白菜價ai才會起飛嗎
→ bear753951  : 現在就是基建的比拼，再貴都必須建，不能輸別人
→ KY1998      : AI只能成功，失敗連GG也跟著死
推 poeoe       : 巨頭們都知道AI是最終決戰 沒人會想落後 連META都在
→ poeoe       : 拼命追了
→ tctv2002    : 這樣的話 蘋果或許是真的聰明 用合作方式就好  無
→ tctv2002    : 底洞
→ KY1998      : 其他就是政治問題，美國不會待在原地等中國追上來
推 sunrise1748 : 不妨礙空蛙看空，但是空蛙也不敢真的空
→ jalai       : 錯錯錯: 未來AI競爭是全面性的 你CPO做不出來也沒用
推 s213092921  : https://youtu.be/3jABQgcJJyw 前天葉博士也急了，
→ s213092921  : 長鑫也在玩韜定律
噓 asws0808    : 幹勒 怎麼不早說，整天鬼故事==
推 qxpbyd      : 99 DRAM
推 zaibright   : 還是買台灣的專長 晶片製造的部分就好了  現在
→ zaibright   : 買記憶體 太慢了吧會整天擔心
推 qweertyui891: 救救988
推 kuominj     : 記憶體都跌爛了吧
推 bunjie      : 記憶體價格先下來才有機會
推 seacall     : 散熱是要動了沒
→ zixiang     : HBM之父不吹記憶體要吹什麼
→ cchen       : 訂閱了嗎
推 focus0120   : 先前鬼故事組合拳壓價為真
推 karta018    : 下一個，電力大師，AI沒電記憶體也只是垃圾
推 fafcfh      : 利多新聞狂發，結果記憶體族群破月線破季線
推 pikachu123  : Hbm 完全跟台灣沒關係啊
推 energy100203: 他很頂嗎
推 littlemisspr: 先進的設備都是貴，以前記憶體也超級貴
推 ksjr        : 我們需要的是DRAM之父
→ jason88633  : 這韓國人很有名，喊得非常早..聽他的都財富自由了
推 redsoxortiz : 噴出
→ sheep2009   : hbm+hbf吧
推 david850914 : 先把記憶體打下來才能繼續吹啊
→ raku        : 放屁
推 hate56      : 南韓人真的超會自吹
→ raku        : 台達電：ai的本質是供電跟散熱
推 poeoe       : 他預測很準 今天HBM的盛況完全被說中了
→ raku        : 效能瓶頸發生在最爛最慢的地方 現在就是記憶體不長
→ raku        : 進卡住
推 KerLu       : 閃迪  繼續低調
推 Kobe5210    : 從GPU，到CPU，到記憶體
推 poeoe       : 海力士深耕10年的HBM 總算在AI時代起飛了
→ FatFatQQ    : 記憶體本來就很重要
推 alberthcc   : 確實，人類沒有記憶也只是軀殼；但是有記憶不會提
→ alberthcc   : 取出來使用，沒有神經網絡，你記憶體也只是一塊放
→ alberthcc   : 資料的抽屜而已，等著發霉。
推 ahg         : 呵
噓 s1612316    : 算力才是好嗎 不懂裝懂
→ s1612316    : 你腦容量大如宇宙 但你不能思考 不能推理 有屁用
→ sheep2009   : 就短版效應 現在輪到記憶體而已 之後看來是光通
推 TaiwanUp    : 好 亞利桑那蓋記憶體廠
→ TaiwanUp    : 南亞科 華邦電 前進亞利桑納!
推 bigair888   : 就美光 三星 海力士
→ bigair888   : 其實都要 但是記憶體更重要
→ TaiwanUp    : 瓶頸是記憶體頻寬 以上兩家聽命於台積電即可
→ TaiwanUp    : 南亞科 華邦電 全力投資記憶體頻寬的研究
噓 Luwan       : 繼續吹
噓 kload       : 南朝鮮人又在發夢了
→ b9513227    : 我真的不知道毛利率90%是還能爽多久
→ b9513227    : 被腦粉吹最有錢的狗家都在借錢了
推 kenro       : 專訪可以看一下這人說的沒錯，可惜台灣這方面沒做起
噓 js70864444  : 裝什麼B
推 tony890415  : 存為王 HBM用的比邏輯多
推 grtfor      : 說個笑話 超導體
推 DarkerDuck  : 存算一體講很久了，人腦就是存算一體才能超省電
→ DarkerDuck  : 而AI真的要商業規模化最需要的的確也是記憶體
→ DarkerDuck  : 需要大量算力的預訓練階段已經差不多了
推 koushimei   : 厲害 大宗商品可以吹成這樣
推 sdbb        : 推黑鴨，押注記憶體技術就對了，但不限於HBM
→ tw411001    : 臺灣記憶體跟HBM有關係的：沒有
→ bnn         : compute-in-memory出來又會產生版圖巨變
推 RaiGend0519 : 我只覺得再高的願景最終都要回歸市場支撐
→ jjjj222     : 台積電應該也漲價把毛利拉到80%
→ jjjj222     : 這樣記憶體需求就會下去了
推 rcf150cc    : 假日鬼故事+1
→ Altair      : 把記憶體吹得比GPU CPU還高 XD
推 jen1121     : CoWoS整合需要台積電認證，當GG吃素嗎
推 Brioni      : 看起來還很多人懷疑，代表還有噴發空間
推 amig0123    : 賺太多了
推 pziix       : 什麼豬腦袋 才能說出這麼好笑的東西
推 DoraPtt     : 記憶體跟GPU包一起看怎麼進步吧
→ raku        : 笑死 請問美光台灣廠生產的HBM 算不算GDP?
→ raku        : 現在效能也不是卡記憶體頻寬 而是三大廠聯手控制產
→ raku        : 能（不大幅擴產）來獲取高額毛利
推 Brioni      : 算啊，美光台灣廠算台灣出口額
→ raku        : 這種行為不可能長久的 三星海力士也知道 所以在能
→ raku        : 賺的時候盡量拉高價格賺
→ Brioni      : 目前伺服器生產瓶頸就在HBM，營運瓶頸在電力
推 g9911761    : 台灣沒高階記憶體可惜了
推 Arctica     : 99mu!!
推 limulus     : 順序很重要，今天並非記憶體先突破而創造出AI的需
→ limulus     : 求，是nVidia首先開創出AI，其他周邊才跟著有了發
→ limulus     : 展的目標及方向。那麼會吹記憶體，怎沒比老黃早先
→ limulus     : 開發出AI?事後諸葛人人都會，但敢砸大錢研發試誤開
→ limulus     : 創的人少之又少啦
推 butz85      : 未來無腦,不用記憶體了QQ
推 a069275235  : 不是哲哲嗎
推 Brioni      : 記憶體慢計算單元跟快取太多
→ Brioni      : 變成計算遷就記憶體速度
推 madeinheaven: 未來就是記憶體內計算
推 silentence  : 聽他在喇叭  沒其他深度學習的運算邏輯 靠他
推 KerLu       : 講這麼 華西街一個鬼故事 還是跌10%。
→ silentence  : 記憶體有屌用喔
推 siki588     : 相信魏哲家 旁邊去玩沙
推 dvr         : 笑死 韓國人真的喇吧
推 KY1998      : GPU CPU RAM 都不重要，趕快去買玻璃~
推 jympin      : 貴成這樣 大家一定會想辦法降低依賴啦
推 eknbz       : 散熱和電供也可以用類似的邏輯寫一篇
→ eknbz       : 所以到底誰重要其實不重要  能掌握市場炒什麼才重
→ kanehhh     : 記憶體牆遲早會破，先不要說太早
推 madeinheaven: 看財報就知了 世界第一第二賺錢的企業都是記憶體
噓 ISCREDIBLE  : 找記憶體人說記憶體需求強勁？
噓 whitetiger  : 怎麼降低依賴? 用中國貨? 更不用說中國哪來HBM?
推 Armin       : 買存儲三年後對答案
→ bh2142      : 所以要用TPU啊，從根本解決馮紐曼架構的瓶頸
推 sonycat0615 : 所以GG要被蛋刁了嗎
推 Brioni      : 跟技術無關，漲價最大
推 blue821229  : 看一堆低能留言就知道儘管是大多頭 賺錢的永遠是少
→ blue821229  : 數人
→ Looming     : 沒什麼技術護城河最後變成commodity的東西
推 tony890415  : TPU 還是要HBM
→ tony890415  : 950DT有HBM 所以大家都缺
→ Heedictator : 韓國人即將統治世界
推 clamperni   : 卡哇要飆了
推 lancechance : 後天開盤市價+200%買進
推 ureikaze    : 含狗就是神，癡豕的那種
推 redbeanbread: 美國盤子會買單 不怕
推 lrock       : 155樓，老黃也沒預測到是這樣發展的，一切都是浪潮
→ noomlluf72  : 三星真的很誇張
推 egghan      : 我到處去說未來靠我兒子人家一定覺得我神經病
推 ghfjdksla   : 被動不是說更猛嗎～
→ necrophagist: Autoregressive LLM一個個token預測的才很吃記憶體
→ necrophagist: 頻寬 其它也有diffusion運算的就是算力
推 swgun       : 韓國人跟中國人都比吹的
噓 pf775       : 韓國人有技術？
推 omoqq       : 看這串留言真的一堆低能 難怪股市賺錢的少數人哈哈
→ omoqq       : 哈
→ yunf        : 別人就說了不用你hbm也沒差
→ yunf        : https://tinyurl.com/2arlk56z
→ yunf        : 看就知道老王賣瓜
噓 myth0422    : 明明就是晶片 三星做不贏gg就在那邊瞎說
推 pppopp      : 哇靠 什麼都是韓國的啊
推 asahi98     : 確實，都在等資料傳輸比較花時間
噓 fallinlove15: 太自大了吧
推 qoo10067    : 記憶體只要產能開下去，沒什麼技術
→ qoo10067    : 韓國的話都要打6折
推 chrischiu   : 反正都是非紅供應鏈賺錢
推 futen424    : 記憶體不問記憶體專家，不然要去問誰，笑死酸民
→ mini178     : 你哪位 我只服 金特務
→ bndan       : 說個笑話 AI世代本質是記憶體 XD
→ bndan       : 之前說的以後什麼需求都直接用"顆粒" 解決就好 韓式
→ bndan       : 印鈔的鑼輯 XD
→ peterors    : 拉回就是埋點阿   衝衝衝
→ bigair888   : 散熱 跟核能是吧
噓 fishfi      : 早說
推 GinginDenSha: 現代AI的本質是吃上文reason下文好嗎
推 zxc90376    : 他是真的是這方面權威，Kaist ee扛壩子欸