Re: [新聞] 三星高層揭AI瓶頸：轉向記憶體運算與先進

[LDPC (Channel Coding)]

在老黃定律沒出現前 運算效能大體就是照摩爾定律走
直到老黃提了個老黃定律 就是GPU計算效能每兩年翻倍
(或者有人認為老黃曾說過 智慧（AI）晶片的效能每十年會提升 1,000 倍 )
從早期顯卡TNT那款開始 老黃的算力就是系統上 軟體硬體多核 去達到這效果

現在的GenAI的核心就是Autoregressive 簡單說就是token資訊是一顆顆產
因此算力和記憶體坪寬速度 可以互換
白算盤說過 你資訊產量 可以用很少記憶體 但是每次需要資訊重新計算就好
這就是透過大量算力換取記憶體小
反之 你也可以透過記憶體把事先資訊記憶好 不用重複計算 這就是用大量記憶換算力

現在的趨勢很明顯 你的算力在製程和架構上(比方GB200 拿兩個晶片 先進封裝合體)
這是個有極限 那按照老黃定律 算力就是系統整合的優化表現
那最簡單提高算力就是 把記憶體坪寬速度再追加 所以有了HBM 透過記憶體加速
然後記憶體要再加大加快 就是把HBM的層數往上疊 又或者最近的NVHBM
那就是把控制放到記憶體那邊 直接硬生生提高記憶體傳輸速度

這種系統層面就老黃強項啊 以前單顆晶片算力快 很多人當初吹得比老黃單晶片快
但拉到Data Center 老黃就是比人家強 靠者NVLink 一堆串連
就能提供整體算力比別家快 老黃就喜歡拉者一堆供應鏈整合
去痛揍競爭對手 從用台積電產能卡蘇媽 當年就玩過一次

現在老黃想要靠算力去揍人 就是走記憶體坪寬速度 這條路好處是 現在供應鏈都老黃人
日本韓國台灣 先進製程 ABF HBM 很早就有人說過算力大戰就是當年顯示卡算力大戰
當年老黃拉者技嘉 微星 一票OEM 去胖揍3DFX這個自己想搞自己品牌顯卡

老黃定律 這條路只是重新再走過一次 AI晶片大戰 這就是意味者 算力(超級電腦)
是一個軟體硬體全面整合的結果 這條路的終點 就是資料中心的建成

你其他算力小隊 只能靠架構去打 如果也要靠系統整合去提高算力 就會被HBM/ABF
先進製程 台積產能 這些廠商供應鏈卡死 我現在不買老黃是因為我已經有夠多老黃
加上他市值太大 沒有敷糗了

所以我寧願賭蘇媽 蘇媽不可能會輸的 喊出我立志餘生不再為哈佛MBA工作
這個公司一定能上2T 是不可能會輸的QQ 狗家就純生態圈 TPU就算是老二老三也不影響
他就是那個狗家聖殿

算力以後主流現在一定是朝坪寬速度這個來 存<->算 互換 就是記憶卡哇算力卡哇未來
坪寬速度你可以靠疊加HBM 老黃只是走了另一條捷徑 把控制器放到HBM 加快速度
這另一個好處就是 你家的HBM客製化給老黃用後 其他算力小隊是不能直接用



※ 引述《psw (ICK)》之銘言：
: 我看不懂這zHBM
: 現意思是出現NVHBM可跟邏輯閘GPU搭讓三星嚇到要自創新規格意思？
: 畢竟記憶體離GPU太遠會拖慢運算效率？
: 強者解釋一下

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 98.37.67.135 (美國)
推 joey2k14    : AMD 1000
推 rebel       : 為什麼是壓AMD?現在有推出什麼驚豔的晶片或產品嗎
就樓下這個概念 ai模型已經開始有 豪華版跟銅板價 兩者都是有大量市場
以後的算力平台八成也是這樣 豪華版跟銅板價 算力需求過大 老二喝湯 但股價上升幅度
會比老大快 因為市值低 就只是單純這樣的猜測 以及賭上蘇媽的人格特質
推 POWERSERIES : AMD就是平窮版GPU
推 HiuAnOP     : 蘇媽在供應鏈會被老黃玩死-.-
推 poeoe       : 確實啊 老黃市值已經很高了 買一些相對沒那麼高的不
→ poeoe       : 錯
推 madeinheaven: 還不如買三星現在市值才1.23兆美
滿手記憶體個股和dram.....@@/ 記憶小隊 忠誠 這場戰爭贏了我們就能回家了
※ 編輯: LDPC (98.37.67.135 美國), 08/30/2026 13:59:29
推 rebel       : 我年初也是類似的想法 不過今年以來我覺得AMD跟老
→ rebel       : 黃技術差距 沒有追近還被拉開了一點 雖然股價有追
→ rebel       : 上 不過我老黃還不夠多 我還是先補老黃跟三大CSP
我老黃已經多到 股息換算成月薪約等台灣22k了.現在買股就著重在記憶sector+蘇媽+狗家
推 ccloudd     : 嗚嗚嗚買到美股DRAM ETF 70往下撿到55
※ 編輯: LDPC (98.37.67.135 美國), 08/30/2026 14:01:44
※ 編輯: LDPC (98.37.67.135 美國), 08/30/2026 14:02:41
→ CreatorK    : 99蘇媽 和蘇媽合作的CBRS應該還有救吧 高位套牢
推 sdbb        : 謝謝
→ mystage     : 我現在手上就是老黃家跟狗狗家，加上被套牢的核能
→ mystage     : 股。我家人問我美股要買什麼，我一樣說買NVDA。我
→ mystage     : 才不要家人虧錢了回來找我碎念
推 rayisgreat  : 推LDPC大大分享
推 roseritter  : 推
推 squelch     : 記憶体直接運算的成品 目前只看到中國跟美國有而已
→ squelch     :  其他公司還沒看到
→ squelch     : 記憶體直接運算是用在已經建好的AI 模型  加快AI模
→ squelch     : 型輸出結果
→ squelch     : 跟簡單來說是用在推理 ，而不是AI 建模，雖然叫記
→ squelch     : 憶體但不同結構 作用也不同
推 josephpu    : aws看到老黃nvhbm馬上貼上去了
推 TIPPK       : 看來要買AMD了QQ
推 gladopo     : 吹的是老黃，買的是蘇媽@@
推 jerrychuang : 請教LDPC大大，那以後真的HBM只需8hi，然後靠NVlink
→ jerrychuang : 之類的連結嗎? 甚至只需要4hi，不太需要12hi, 16hi
→ jerrychuang : 了嗎?
推 a2080259    : 滿手美股記憶體 ...@@
→ roseritter  : 改8hi 似有出貨量考量 一來損耗較少 二來同產量可
→ roseritter  : 裝更多櫃
→ as6633208   : 其實nv的技術還是很強老實的說，黃氏定律基本已經超
→ as6633208   : 越摩爾定律，目前來看
→ bndan       : 要走到存算互換的"商業"格局 主要來至於單位效能價
→ bndan       : 格競爭 做不到這點 存換互換的價值拉不上台面..舉例
→ bndan       : 當初SSD為什麼會火爆? 因為速度遠高於原本的HD? 重
→ bndan       : 點是本IO就是門檻 透過高量升級門檻能造成整體系統
→ bndan       : 效能和架構可能性爆發..但這是純技術角度 說白了HDD
→ bndan       : 扣除掉物理限制問題 難道不能再快嗎? 其實可以嘛 那
→ bndan       : 為啥更快的沒有變標配 反而是7200轉的變常態標配?說
→ bndan       : 白了不就是單位效能價格的問題嗎 =_=..這波記憶體也
→ bndan       : 一樣 你要突破架構限制 創造出可能性 那只有一個商
→ bndan       : 業模式能合 就是記憶體賤價或是GPU賤價帶動記憶體賤
→ bndan       : 價 但以目前規模和技術門檻來說 記憶體賤價這條路比
→ bndan       : 較有機會觸發(相對於後者)
→ josephpu    : 改8hi更多是為了整體記憶體的出貨考量，要用總dram
→ josephpu    : 跟hbm需求去看，hbm的良率會讓總出貨量下降，現在
→ josephpu    : 就是找平衡點，若沒有產能問題那當然是12hi
→ josephpu    : 當然老黃想辦法增加cluster數量去堆容量也是種路線
→ josephpu    :  所以cpo scale up這東西是加速在推進的
推 strlen      : 這些道理我都懂 但為什麼卡蛙還是不會噴？QQ
推 rejecth0    : 留言區看起來都是超越三星高層的評論者，穩了
→ pinkowa     : 因為台灣卡哇跟這些都沒有關係
→ pinkowa     : 記憶體直接運算的架構 跟一般記憶體就不一樣
→ pinkowa     : 是在IC設計時候連同架構一起就設計好的 不能分拆
→ pinkowa     : 生產的時候直接由一般晶圓廠生產 根本沒經過卡哇
→ strlen      : 呃 但是不會噴的是美韓卡蛙 哭哭QQ
→ pinkowa     : 台美韓卡哇早就噴過了 沒跟上是自己的問題
推 as6633208   : 說認真韓股卡蛙是被故意壓價的，我個人感覺像是彈簧
→ as6633208   : 啦，現在各家記憶體只給到本益比7我覺得不合理，週
→ as6633208   : 期的定義是只能好一陣子，其實有用過AI就知道，AI沒
→ as6633208   : 有記憶就是笨蛋，聰明的模型在訓練上需要記憶，在推
→ as6633208   : 理上也需要記憶，目前記憶的工藝技術也隨著hbm技術
→ as6633208   : 規格越來越高，越來越難被輕易複製，應用面到了未來
→ as6633208   : 機器人物理AI，記憶的需求我認為只會更高，現在被壓
→ as6633208   : 到只有7本益比我反而覺得是好入場點，我估NV30的話
→ as6633208   : ，記憶體應該可以給到15左右
推 jyhfang     : 感謝分享
推 verdandy    : 美光早就噴了，三月底還在劉德音防線攻防戰，現在
→ verdandy    : 快三倍了
推 noahlin     : 已知利多就不是利多 六月美光財報財測都那麼好
→ noahlin     : 很難再有什麼更大的利多了 當然現金流強勁
→ noahlin     : 也不會跌到哪 比一堆本益比五十一百倍夢想股有撐
→ noahlin     : 等年底看美光會不會回購 但也是半個已知
→ noahlin     : 跟nv有點類似 公司賺錢 但都是已知 散戶太多
噓 k67745438   : 推
推 k67745438   : 抱歉按錯了 補推QQ
推 phegg       : 挖賽 您有9000股 nvda才能達成 22k 太強了