[請益] HBM跟NAND flash是ASIC晶片系統的剛需嗎

[morrislek (阿不幸)]

昨天美股有一家新的晶片設計公司cerebras掛牌上市。問了一早上Gemini 這家公司的晶片架構跟Nvidia有什麼不同，得到以上結論：
1.這是一款晶圓級大小的ASIC晶片。
2.晶片尺寸大約H100的50倍，速度15倍。
3. 本體所需要的SRAM 都做在晶片上，所以不需要HBM。
4. 除了阿美原有的生意外，還OpenAI等巨頭 約200億美元的訂單。
5. 如果市佔到15-20%,會對HBM供應商產生根本性的風險。

小弟以為進入推論市場，記憶體會是最主要的片瓶頸加剛需，結果不是這樣？有產業專家或神大大能分享一下對ASIC發展的看法嗎？
-----
Sent from JPTT on my iPhone

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.231.191.149 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1778905429.A.FBB.html
噓 Xration     : 作業自己寫
推 julian42    : sram 就是另一種記憶體技術 是不用hbm 不是不用記
→ julian42    : 憶體
→ Peter911    : 理想很美好 良率很殘酷 可以看看晶圓為啥還是12吋
→ Peter911    : CoPoS為啥還沒亮相取代CoWoS 現實是骨感的
推 julian42    : sram 國內之前忘了哪家記憶體也炒過一陣子
推 fleetwood   : 你當然可以拿牛排肉來做漢堡吃而且還很好吃
→ fleetwood   : 但是價格自己想
推 Shepherd1987: 這家特殊應用太特殊, 不用理他
推 madeinheaven: NAND flash未來還有HBF
→ paimin      : 那麼大顆良率很可怕的
推 julian42    : 那三家hbm 應該是各種技術都有在研究
噓 ShinHsin    : 錯板
→ abyssa1     : 工程選擇需要考量價格
→ OxFFFFFFFF  : 去看一下NVIDIA最新的晶片架構就知道了如果可以把h
→ OxFFFFFFFF  : bm全部移掉幹嘛還留著全部換SRAM就好了
→ abyssa1     : 這樣搞會有其他瓶頸 良率 散熱 價格 都是問題
→ OxFFFFFFFF  : 以後的趨勢目前看起來就是兩者共存分別在不同的階
→ OxFFFFFFFF  : 段都會用得到
→ OxFFFFFFFF  : 推理的不同階段
噓 schumi7401  : 晶片大50倍速度增15 倍技術倒退了
→ lalacos123  : 哇 那當初的18吋要拿回來玩嗎 可以快幾倍
推 rahim03     : SRAM容量效率太差空間太大
→ Brioni      : 光纖跟海纜也是剛需，一直都是，只是當年突然發現終
→ Brioni      : 端需求成長曲線沒想像中那樣火箭直衝不休息不回頭、
→ Brioni      : 而是一段一段分階段躍升，然後就崩了
→ Brioni      : ASIC先看2-3年就好，而且這中間技術路線還可能改變
→ Brioni      : ，任何跟你預告什麼未來十年怎樣風險都不低
推 TameFoxx    : SRAM是由台積直接生產的 跟記憶體廠無關
噓 eric2057    : 是不是很多人不知道SRAM 是Logic製程 台積自己就有
→ eric2057    : 了 而且做得非常好
→ bnn         : 他家的賣點是wafer推論
推 tanted      : SRAM 不就L2 cache 價格不是更昂貴嗎?
推 scott0118   : 記憶體很缺 但廠商也相對多 活下來的也都是過去可
→ scott0118   : 以扛著週期變化的大廠 要擴產也比較敢 真的要說瓶
→ scott0118   : 頸還是邏輯晶片比較難大量擴增
→ bnn         : 就一起做上面 額外採購的記憶體量變少 減少封裝需求
→ bnn         : 缺點就一整片晶圓良率堪憂
推 easyman     : SRAM價格可能是HBM的10倍，拼速度才需要用到這家
→ easyman     : 這家要威脅到HBM,可能要WoW X3D 疊上去，才有點機會
→ easyman     : SRAM太小，造成模型太小，只能跑少數 MOE
推 TameFoxx    : 樓上 其實現在應該是MoE導致模型太大
→ TameFoxx    : 是有些人認為應該回歸Dense
→ LDPC        : 不是 腳踏車才是
推 goodevening : sram比hbm還貴
噓 MartianIT   : 大型晶片良率如果這麼好搞 台積電何必發展先進封裝
推 NTUT56      : 計算機概論Lesson：sram本質是flip-flop, flip-flop
→ NTUT56      : 本質是電晶體。 但hbm本質是電容。
推 ChoiceLife  : 尺寸50倍成本不就50倍？
→ NTUT56      : 電容就裝電荷而已，本質就dram，只是貴在堆疊技術
→ Feting      : 想到之前有一小段時間炒作SRAM然後跑去炒華邦電愛
→ Feting      : 普晶豪科鈺創，笑死
推 Flyingheart : 看好這家
推 madeinheaven: Groq也用SRAM還是跟NVIDIA合作
推 roseritter  : 這家要求整片良率非常高，雖然有用一些技術手段補償
→ Feting      : 其實不用太看好，幾年內都很難有什麼的產品量產
推 NTUT56      : dram會因為三大廠減產導致訂單流向牙科邦邦，所以看
→ NTUT56      : hbm炒dram合邏輯
噓 JJJZZs      : 記不住資料不能運算
→ c928        : 問ai
推 rebel       : 去問AI 然後ASIC晶片不等於AI晶片
→ neofire     : 你去問歐印N廠的人，啟不是打臉嘛
→ shawnfu     : 會去買這家股票的真是腦袋裝屎
→ necrophagist: 50倍尺寸 低良率 換15倍速度？可能未來可期吧.
推 gn01924077  : SRAM是晶圓代工廠提供IP和製程，和記憶體廠無關
→ gn01924077  : SRAM的體積和良率造成成本太高，高容量的暫存還是
→ gn01924077  : 以DRAM為主
噓 poeoe       : 你知道SRAM和DRAM成本差多少嗎
噓 poeoe       : 現在要HBM這麼多 就是推論的量越來越大 SRAM貴成這
→ poeoe       : 樣要怎麼取代HBM啦
推 edison106   : sram成本是hbm幾十倍 望周知