[新聞] 「HBM之父」：未來AI競爭看記憶體 未來

[gearty (Gearty)]

備註請放最後面 違者新聞文章刪除

「HBM之父」：未來AI競爭看記憶體 未來3D架構決勝散熱與供電 中美會追趕上來

鉅亨網／記者　陳韋廷

被韓媒譽為「HBM 之父」的韓國科學技術院 (KAIST) 教授金正浩 (Kim Jung-ho) 醉心表
示，AI 的本質就是記憶體。

他在接受《東亞日報》專訪時提出上述顛覆性觀點時指出，過去業界過度聚焦模型算法與
 GPU 算力，但當大模型實際運行時，注意力機制、上下文緩存 (KV Cache) 與推論生成
的每一個環節，都高度依賴記憶體系統的支撐。

金正浩表示，HBM 透過將多層 DRAM 垂直堆疊，大幅拓展資料傳輸的「車道數」，並生動
比喻稱「傳統記憶像 8 道高速公路，HBM 則是 1024，甚至 2048 車道，未來可能演進至
百萬車道」。

然而，頻寬的提升並未根除瓶頸。大模型在輸出瞬間需頻繁從 HBM 或未來的 HBF(高頻寬
閃存) 讀寫資料，導致 GPU 絕大部分時間處於「等待資料抵達」的閒置狀態。

金正浩估計，即便部署百萬個 GPU，真正用於計算的時間僅約 10%，即便透過演算法優化
，也很難超過 30%。

為解決「資料搬運」的能耗與延遲問題，金正浩預測未來 AI 運算將走向「以記憶體為中
心」。

他將理想的 3D 架構比喻為一棟百層大樓：「在一樓安裝 GPU，資料只需搭電梯下樓計算
，整棟樓解決所有事，省去長途奔波。」從 HBM4 開始，部分 GPU 功能將整合進記憶體
結構中。

金正浩還進一步描繪三層異質記憶體指出，速度最快的 HBM(堆疊 DRAM) 扮演百貨公司存
放熱數據，容量巨大的 HBF(堆疊 NAND) 如同公寓樓群存放冷數據，而他提出的 HBS(高
頻寬 SRAM) 則作為超低延遲的緩存。GPU/CPU 將置於頂層，專注於散熱與調度。

金正浩特別點出，輝達執行長黃仁勳近期頻繁訪韓，正因 GPU 微架構的效能成長已近停
滯，且高發熱特性使其難以像記憶體般大規模堆疊。

他認為，未來 3D AI 電腦的供電與散熱能力將成核心競爭力，決定企業生死。這也意味
著擁有 DRAM 與 NAND 雙重技術累積的三星與 SK 海力士，有機會在未來架構中佔據核心
地位。

不過，金正浩也警示，這並非簡單的「GPU 時代」切換為「記憶體時代」，而是 GPU、
HBM、先進封裝、網絡互連與散熱的系統級競賽。

面對中國業者積極自研 GPU/NPU 並帶動本土記憶體發展的追趕壓力，金正浩則對韓國業
界直言：「這是一場關係生存的長期競爭，只能努力活到最後。」


5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
https://news.cnyes.com/news/id/6528299

6.備註:
※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請注意
※ 備註請勿張貼三日內新聞(包含連結、標題等)


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.171.151.53 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1783764637.A.33B.html
→ t81511270: == 要歐印牙科嗎
→ Ruhaha: 以後老黃要改賣記憶體了嗎
→ robrob99: 翻譯：你們不要再賣了
推 CHYYP: 醉心表示？
推 zaqimon: 醉心 故意的吧 表示不是AI寫的
→ sim3000: 我的ETF有MU 鎧俠 三星 海力士 讚的
→ zaqimon: 還是也可以請AI故意生成一兩個錯誤
→ sim3000: 醉心用得很怪 是 仙劍酒神嗎
→ zaqimon: 最新 注音沒選好字而已
推 s9321312: 南亞科、華邦電、奇鋐、雙鴻、台達電
→ s9321312: 結案...大家買起來抱
→ sim3000: 內心的喜愛已到了沉醉迷戀的地步。
→ sim3000: 這裡根本不是迷戀
→ sim3000: 直接把醉心刪掉 好一點
→ sim3000: HBM只有 海力士 三星 美光 掌握關鍵技術
→ globeMIX: 集卡蛙又復活了
→ sim3000: 長江還有點機會 台廠只是來喝湯的
→ globeMIX: 人要是失憶也什麼都做不好 ai同理
推 dk2486248: 99南亞科
推 madeinheaven: HBM要用先進製程了 中國根本沒機會
噓 pf775: 韓國人還不是被臺積電屌打
推 whitenoise: 大實話
→ im31519: 又開始了～這次的故事版本是記憶體是基
→ im31519: 礎建設
→ zeroBB: 牙科是靠hbm 外溢效應才噴，想炒中短線再
→ zeroBB: 買。搞清楚
推 s213092921: https://youtu.be/3jABQgcJJyw 美吹真
→ s213092921: 的很會幻想老中搞不出HBM
推 s213092921: http://i.imgur.com/D0ufRxx.jpg