[心得] GPU vs ASIC

[LDPC (Channel Coding)]

蘇媽在最近一次採訪給了ASIC跟GPU大戰的註解
https://www.theregister.com/2025/02/05/amd_q4_fy2024/

她註解
Despite this, Su doesn't expect dedicated AI ASICs to replace GPUs any
time soon.

"My belief is, given how much change there is still going on in AI
algorithms, that ASICs will still be the smaller part of that TAM
(旁註解: AI算法變化快 所以這意味者ASIC會很難適應算法迭代 除此之外
個人體驗 在LLM起來前 其他許多領域 也是一個需要大算力市場 比方render 電影studio
等影音大廠要花大筆錢打造render farm使用NV晶片 又或者臉書的廣告推送預測等服務
所以通運算力有一定基本需求)

順便附上三星自己做了一個HBM使用的數量估計
https://i.imgur.com/NzuspuW.jpeg


我2025自己投資就是照上面HBM使用數量大概去分配買 (加個註解好了@@)
你如果覺得NV有未來 你最好的加碼點就是這波關稅大戰 因為關稅跟基本面相關性小
我個人預測是DeepSeek 會加速其他國家和中小型玩家入場機會 比方
https://reurl.cc/V0vzWy
而HBM上面也支撐我重注萬潤策略 (@@ 強烈不建議跟單 因為這部分韭菜率很高)

然後我之前刪文 但裡面有一個重點 就是inference端的速度(token/second)
和能滿足多少用戶請求(queries) 支援 是AI落地場景衡量指標 再玩deepseek之後
你可以嘗試去把這些考慮帶入 這樣幫助你對算力需求之後的發展預測 (註1)

當然ASIC還是給華爾街許多想像空間
(參照 圖解科技巨頭如何在AI領域增加「重注」 一文)

總結 2025 個人投資方向就是找下方圖表的金錢流動位置 @@/
https://reurl.cc/ZZ5elW


--
註1
一般來說 大部分落地場景最最最低速度要求大約是25~30 token/second 再玩on-device端
可以體驗壹下這速度感

註2
為對沖關稅影響 部分錢買入黃金 希望有買黃金的多多拋出想法能幫韭菜我校正 @@/

註解:多少分配avgo/nvda看個人 @@ 有一說華爾街2025會想炒avgo
可以搭配HBM發展趨勢 作為算力第二建倉分散用途打算
https://finance.sina.com.cn/jjxw/2024-12-17/doc-inczttzt5006945.shtml


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.21.72.78 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1739050885.A.0C8.html
推 xupmc       : 亞馬遜很認真在投入AI AWS感覺功能不是DS可以比的
推 RichardLee88: 推 優質分析 感謝L大
推 onekoni     : 專業推
推 y800122155  : 為什麼你是照用量去買? 而不是照成長力高低去配比?
推 guanting886 : 用在ASIC上就是我想把某段服務的成本打下來 不會少
→ guanting886 :
→ guanting886 : 這就很適合在AWS上 而且不限於你現在看到的LLM
→ guanting886 : 不可能只會有LLM要發展 就光周圍的人機介面都還是
→ guanting886 : 要處理
推 guanting886 : 聽 (你需要speech recognition）
→ guanting886 : 看/讀 (你需要 computer vision)
→ guanting886 : 說 (你需要 tts = text-to-speech )
→ guanting886 : 想 (就你目前看到的模型 但這個可能未來還會有更厲
→ guanting886 : 害的人或團隊將目前的設計改良突破
推 sonnyc      : 救救蘇媽媽
推 ksjr        : 不曉得UAE會不會也被川川禁?
推 HenryLin123 : AVGO算變化量應該大於NVDA
推 Mingleez    : 萬潤跟hbm什麼關係
推 imlucky     : 世芯ky最近好猛 爭奪股王位置
推 pisciss     : 死媽的花能聽，股價不會剩100初頭
推 pc007ya     : GUC HBM buy and forget
推 spike1215   : 嗚啊，我美光還套在102
→ fgkor123    : NPU勒?
推 ymlin0331   : alchip緊抱亞麻大腿XD
→ ymlin0331   : asic的需求直接來自CSP大廠，怎麼輸？
推 B10314058   : 99AMD
→ MacD89      : 買台積電是不是就不用管asic還是gpu會勝出了？
推 y800122155  : 沒看到那個表 GPU ASIC的需求量動不動就是翻兩倍三
→ y800122155  : 倍? GG的成長率大概20%上下 不在乎績效被屌打 只想
→ y800122155  : 穩賺略贏大盤報酬的話可以不管
推 tsukuyomii  : 現在市場上不管是資金還是討論 都是ASIC未來成長空
→ tsukuyomii  : 間更大 遐想空間更大欸
推 ImHoluCan   : GPU比較智能，AICS要確定欸
→ ImHoluCan   : 不過股票而且要求穩聽定穩贏就GPU，但要爆發就AVG
→ ImHoluCan   : O像之前與AMDㄧ樣
推 ymlin0331   : 台積閉著眼睛買
→ ymlin0331   : 誰知道asic何時會被CSP大廠蛋雕
→ ymlin0331   : asic這麼多家，掉單很正常的
推 fernmmm     : 推
推 deathoflove : 不知在哪看到asic 開發週期也要2年
推 pucca068    : 兩個不衝突的東西拿來比？
推 linbryan    : marketwatch警告歷史黃金價格跟關稅成反比.但記住專
→ linbryan    : 家推論正確程度也常跟歷史成反比
推 fajita      : 這兩者應用領域不同，拿在一起比就是炒股觀點
推 addy7533967 : 推推
推 jerrychuang : 多頭時代，真的不需要買黃金
推 A22813079   : 她為了GPU市場當然這樣說... 相同地你去問ASIC大佬
→ A22813079   : 會跟你講相反的
→ bntimlin    : 蘇媽去年說PC下半年出貨會很好
推 spike1215   : 照這樣看，抓住HBM也是不用管GPU和ASIC大戰了的意
→ spike1215   : 思
推 etset       : ASIC會贏喔
※ 編輯: LDPC (76.21.72.78 美國), 02/09/2025 10:05:42
推 sonyvaio    : 99AMD
※ 編輯: LDPC (76.21.72.78 美國), 02/09/2025 10:08:30
噓 pongp0416   : 總覺得asic這方向怪怪的 但部位獲利又一直上升
推 metallolly  : 沒有錢買avgo了啦
※ 編輯: LDPC (76.21.72.78 美國), 02/09/2025 10:14:56
推 jeangodard  : 酷
推 bunjie      : ASIC要量夠大才比較划算吧 只有大廠才有本錢搞這個
→ bunjie      :  中小企業就不用忙這個了
推 fmp1234     : ASIC對標FPGA
推 HiuAnOP     : 我無腦買S&P500而已q_q
→ HiuAnOP     : AI行情現在太亂了！看不懂R
推 hang520     : GG就是全贏 贏麻了
→ bobokeke    : 聯發科壓ASIC，是嗎
推 limulus     : 推專業好文。(股點：掺在一起做撒尿牛丸唄？說到底
→ limulus     : all in台就gg不就好啦？XD)
→ imlucky     : 世芯無腦多 挑戰4000
推 rebel       : 同意 asic最好是等演算法成熟穩定再大量投資 不然
→ rebel       : 一改就差不多報廢
推 TIPPK       : 大爺帶我賺錢QQ
推 zhi5566     : 有想過最近AI股都漲不太起來 NV甚至向下 MSFT軟爛一
→ zhi5566     : 年了 G社帶量下殺 AI可能真的沒有各位想得容易賺錢
推 s1001326    : 99NVDAAAAAAAAAAAAAAAAAA
※ 編輯: LDPC (76.21.72.78 美國), 02/09/2025 10:57:14
→ herculus6502: 雀食
※ 編輯: LDPC (76.21.72.78 美國), 02/09/2025 11:01:12
推 water6      : 問題不在賺錢，在於不能落後，確實有fomo的味道，
→ water6      : 所以一旦短期反轉應該也蠻可怕的，但長期向上趨勢
→ water6      : 不變
→ jen1121     : ASIC想像空間比較大
推 tomdavis    : 懷疑AI不能賺錢 結果是跌AI硬體廠 這個邏輯不對吧XD
→ tomdavis    : ASIC 則是每橫空出世一個新的主流模型 就用來降成本
推 strlen      : https://i.imgur.com/b2kVKfr.jpeg
推 CRonaldo07  : 金像電有機會變金項鍊嗎？
推 shorty5566  : 百花齊放的話確實gpgpu 比較有利，而且也只有csp
→ shorty5566  : 大廠有能力設計asic
→ shorty5566  : 反正Nv avgo alchip 都買不會有錯
推 clisan      : 推專業
→ Infinair    : 萬潤跟HBM有什麼關聯...？？
推 ab4daa      : 99AMD
→ MacD89      : goog/amzn/meta都有在玩asic就是不想被老黃掐著脖子
→ MacD89      : 反正就追隨教主講的老黃BG 有低點就砸錢抄底
推 HarukaLM    : 不管怎樣都是TSMC賺爛  無腦多
推 tomdavis    : 懷疑AI不能賺錢會砍資本支出 那應該要放空TSM才對
推 stlinman    : 推一個，我自己實際體感 20 token/second 以下就有
→ stlinman    : 頓感，不過單純聊天不用思考其實20就夠了
→ VaLenTi1007 : 萬潤任何反彈都是空點   看看均華 弘塑 辛云
!!!@n@ 大大不要這樣!!!!!
推 bandongo    : https://i.imgur.com/W9XNxUg.jpeg
※ 編輯: LDPC (76.21.72.78 美國), 02/09/2025 13:47:19
→ b9513227    : 特規的東西 市場就是沒接受度
推 zqzwxec     : 去看看Redshift AQUA這個產品最後的下場,
→ zqzwxec     : Graviton那幫人,呵呵
→ zqzwxec     : AWS的ASIC注定玩不起來.
推 jamesho8743 : ASIC目前在AI方面不會贏原因就是上面說的算法變化
→ jamesho8743 : 快 除非特定領域或未來算法固定才有優勢 像加密貨
→ jamesho8743 : 幣那樣單純算hash的ASlC才能揮發它的實力
推 jamesho8743 : AWS是他自己固定功能使用量大才有ASIC空間 省成本
推 ching6940   : NPU才是未來
推 josephpu    : 我比較好奇NPU
→ josephpu    : 不過2025 H200真的還能有最大佔比嗎？感覺很難
→ iamsosorry  : 但 世芯還在飆耶
推 aegis43210  : H200的散熱需求比較低，所以反而中小國家比較喜愛
推 aegis43210  : 市場是在賭四大CSP會為了擺脫老黃的魔爪而每年花大
→ aegis43210  : 錢一直做新的ASIC出來
→ aegis43210  : 這樣對老黃不利
→ josephpu    : 但問題是老黃也有推氣冷的b200a，以能耗來說不太可
→ josephpu    : 能再回頭用上代的hopper
推 ohlong      : 貴歸貴 撿現成的還是比自己做便宜
推 cruisewu2003: 全買單了啦
→ stosto      : ASIC你把它想成硬體硬解就好了
→ stosto      : 但以現在模型更新的速度，你asic根本沒辦法使用
→ stosto      : 這就是為什麼nv強的原因，gpu可能慢一點但人家就可
→ stosto      : 以適應不同模型
→ stosto      : 所以asic….我實在不知道現在要怎麼硬剛nv
→ stosto      : 然後現在…說真的，ai模型都還在頻繁更新中，三奈
→ stosto      : 米的asic根本在亂燒
推 l145678p    : 推薦
推 richaad     : ASIC目前只有巨頭用得起，也只有巨頭已經確認架構發
→ richaad     : 展才敢用，中小根本不可能用ASIC，只能直接用cloud
→ richaad     : ，同時GPU不可能削減，因為你完全無法承擔未來架構
→ richaad     : 如果改變的風險，這也是巨頭拼命支出的原因，牆蓋愈
→ richaad     : 高愈難超越
→ stosto      : 反正現在博通在吹asic, 這顆也是兩年前就在試產的
→ stosto      : 你說要怎麼套到現在的環境？