Re: [標的] NVDA/AMD 討論 多哪隻

[waitrop (嘴砲無雙)]

週末閒聊,
搜尋一下發現這篇討論可以回朔到兩年前,
https://www.ptt.cc/bbs/Stock/M.1661733364.A.DA6.html
當時我猜到AMD會把Intel給打趴吃下伺服器市場,
卻沒看到NVDA 在這兩年的爆發力更加驚人,
AMD兩年股價三倍,
NVDA 卻是兩年股價六倍,
我輸了

我對個股預測常常不夠準,
常常是猜到頭卻猜不到結尾,
所以還是建議投資大盤指數ETF 比較簡單

當然也要大方承認,
由於受到本人專業領域的限制,
我只能看到與預測到跟我專業相關的部分,
我不是做AI 算法的, 也不做LLM,
最多就只是做擦邊球去使用LLM,
我的職業生涯一直都是做CPU, AI 晶片與軟體系統,
所以我能精準預測CPU 與軟體系統 市場的變化,
但是我卻錯估了AI 算法在這兩年的突破與對算力的需求,
我真的是對AI算法不熟

回到主題,
兩年過後的現在,
伺服器市場幾乎確定以後會是ARM的天下,
甚至之後的AI device, AI edge 都會是ARM的天下,
以我的專業來看 這趨勢是非常確定的,
所以我不看好 AMD, Intel, X86,
如果是現在給我選擇,
我會覺得NVDA 比 AMD 有前景

當然這是就只有NVDA AMD兩個選擇的情況下,
如果我可以做其他的選擇,
我覺得AI 系統正在快速普及,
很快的幾乎每個人都能夠隨身一台AI device,
所以說AI 軟體應用與軟體系統會很快的普及,
AI edge 的需求也會很快的飆高,
所以我個人在這時間點選擇的話,
我會選擇GOOG MSFT 為最佳投資選擇,
如果是硬體與AI dege 的部分是ARM, QCOM, 聯發科,
包牌是TSM QQQ TQQQ,
ARM的問題是股價炒太高, 目前太貴,
但是前景很看好

至於蘋果,
我之前還是很看好蘋果在AI硬體上面的競爭力,
但是就像LDPC 說的,
蘋果還在搞記憶體飢渴行銷,
以及一些自我封閉 自砍功能的飢渴行銷方式,
還有繼續封閉的平台,
這在AI 硬體與軟體發展的路上只會越走越遠


※ 引述《LDPC (Channel Coding)》之銘言：
: 人類離變成電池之日越來越近了QQ
: 這邊是一個openai的demo整理
: https://youtu.be/VP2-8jIurUE?si=BlFPm94-752XEkF0
: 稍微細拆一下上面的demo一些隱藏意義 誠如之前所說的2023 Text-Based GPT4出現後
: 業界就直接看到戰場要往多模態拚殺 多模態意思就是餵給這些LLM模型從文字理解世界
: 進化到 把影像聲音轉成文字意涵 在餵食給LLM去理解 大概到去年年中 大家影像刷完
: 就開始刷聲音多模態 (當然 LeCun很反對把多模態用文字當anchor來理解世界)
: 到此為止 多模態大概已經刷得差不多 也就是LLM可以透過各類型資料理解世界
: 多模態資料有
: 聲音: 可以透過聲音知道你情緒 理解你是大人或小孩
: 比方說:你如果問LLM 這世界有聖誕老人嗎 LLM聽到你聲音
: 會叫你 滾 你這死肥宅 如果聽到是可愛蘿莉 就會說 是的 世界是有聖誕老人唷!
: 這些是傳統聲音轉文字(ASR)再給Text-LLM辦不到的
: 其餘多模態資料諸如
: 影像: 理解圖片
: 生醫: 心跳 血壓 呼吸
: 金融: 各種時間序列資料
: 溫度 熱成像
: 這些都會以文字為anchor (text token)去餵給LLM
: 那接下來 下個問題 多模態LLM 最佳落地場景為何?->答案是 手機
: 因為手機是最好的攜帶裝置 可以去理解世界 手機上所有數據都是多模態
: 就連GPS/WiFi 你如果需要 也可以當作多模態資訊丟給LLM
: 第二個最佳落地場景是 AR眼鏡 這也解釋為何前幾天Google IO
: 在替Project Astra鋪路 而事實上多模態LLM其實最適合AR眼鏡
: 因為 "所見所聽既所知"
: 戴上眼鏡後 下棋 炒股 把妹 打撞球算角度 全知全能
: 而多模態LLM其實就是扮演虛擬助手 幫助人類處理現實世界資訊和情報
: 這也是為何我覺得果家明明有機會可以打一場漂亮戰 但因為果家的記憶體飢餓行銷
: 注定Gemini-Nano (3B模型) 無法放到iphone (4~6GB) 注定只能走雲端
: 雲端多模態LLM之王就是openai了 至於為何有人會質疑on-device (<3B)以下模型為何有開發
: 必要性?都用雲端就好了 答案就是因為有很多模態資料有私密性 不方便上雲端跑
: 目前針對這類投資就是AMD/NVDA/MU/QCOM MU原因來自多模態吃記憶體 需要HBM這類設計

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.225.6 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1716096142.A.650.html
推 sirins      : 怎不選ARM
噓 a000000000  : 尼用估狗角度看會覺得arm server很強
→ a000000000  : 因為估狗cloud很廢  所以只看得到自己用arm
→ a000000000  : 尼用azure aws的角度看就覺得算惹
推 SilverRH    : INTC跟x86又双叒n被掃進歷史的垃圾堆
噓 a000000000  : 兩年後蘇媽在server cpu最大的問題反而會是牙膏身上
→ a000000000  : 沒多少肉吃惹  現在大約3b vs 1.5~2b
→ a000000000  : arm server有很多問題  第一幾乎鎖死cloud
→ a000000000  : 第二核心更新必須等arm本家
推 johnkry     : ...難以想像啊...X86的年代有一天會結束?
→ a000000000  : 第三所有arm server cpu都自製先進封裝經驗不足
推 takuma      : 直接買arm
推 ashaneba    : amd
噓 final01     : 其實你整個估錯，只有結論是nv勝是對的XD
→ final01     : 你這偏文很明顯是外行人....kk
噓 home10272   : A啾鈴結論是世界G翁嗎
推 calvincock  : 供三小….
噓 deepdish    : 廢話連篇  以前AMD就開發過arm
推 strlen      : 你看我不是跟你縮惹嗎不爽歸不爽 啊還不是得用XD
推 Cliffx      : 我看你不是很懂 乖乖聽教主的
→ strlen      : 現在大廠們應該是更不爽百倍 但也還是得用….
噓 a000000000  : 要問我的話  兩年後如果蘇媽在ai沒對老黃造成威脅
→ a000000000  : 那就不用管惹   他這輩子就這樣惹
→ a000000000  : 蘇媽ai以外的東西擴張空間有限  最多pc cpu
→ Callus      : 我感謝你是打著娘胎樂透在美國工作，也佩服努力工作
→ a000000000  : 問題是這塊牙膏就是虧錢也要死守
→ a000000000  : arm要對x86 cpu造成威脅  五年後再來討論
→ a000000000  : 我是覺得沒有可能
→ a000000000  : 應該說pc
我沒有說pc 市場,
我說的是伺服器與AI device 市場,
幾乎已經確定是ARM的天下,
x86 只能吃剩下毛利率低的pc 市場

→ Callus      : 我不是努力工作的強者，也信你實誠，但這點聽A0*9的
→ a000000000  : pc這塊目前只有低階chrome book跟高階消費級阿婆MBA
→ a000000000  : gaming pc  跟商用   對不起沒機會
噓 deepdish    : https://zh.wikipedia.org/zh-tw/AMD_K12
→ Callus      : 目前AI真的需要GPU處理，3D辨識GPU有80%處理，
→ a000000000  : M軟一直在找方法壓制阿婆高階消費級   問題是他不肯
→ a000000000  : 承認問題在自己身上
→ Callus      : 在3D或某些先進領域，CPU只能處理20%，堆CPU無法的
不,
我說的就是GPU NPU,
在AI edge device的部分,
ARM跟QCOM 都有自己的GPU NPU,
甚至ARM 自己的mali GPU 是全世界生產量最多的GPU, 雖然毛利極低,
ARM, QCOM, 甚至是聯發科在 AI edge device這塊是有能力做的,
AI edge device 這塊的重點在平台的系統軟體,
也就是Android, iOS, ChromeOS 等對AI軟體開發與執行的支援程度

→ a000000000  : 這兩天就有人說蘇媽又被M軟叫去做arm pc
→ a000000000  : 我覺得M軟在這塊真的白痴沒救惹
推 SilverRH    : 阿婆不壓制也沒差，反正只會用液壓機壓平板
推 aegis43210  : x86s真的要加速，不然CISC真的被看扁了
→ NCKUFatPork : 我覺得過份高估LLM training的需求了
→ NCKUFatPork : 未來inference絕對會遠超過training的需求
→ NCKUFatPork : Nvidia現在只是領先在training的戰場而已
推 aegis43210  : 如果LLM訓練的需求不足，那蘇嬤才慘了，MI400就是為
→ aegis43210  : 了LLM而設計的
推 s987692     : 訓練一直都有的。以後中型企業大概都用雲服務去訓
→ s987692     : 練模型了
→ aegis43210  : 不，重點是你用了老黃的AI訓練晶片，就會順便用他的
→ aegis43210  : AI推論功能，所以掌握了AI訓練，就等於掌握了雲端AI
→ aegis43210  : 推論市場
※ 編輯: waitrop (76.103.225.6 美國), 05/19/2024 14:09:37
→ NCKUFatPork : 隨著context window不斷增加我覺得應該不用一直訓練
推 moike22     : 知道了 歐印gg
推 aegis43210  : 雲端運算的肉肯定比邊緣運算來的多，但像GG會希望邊
→ aegis43210  : 緣運算變主流
噓 a000000000  : arm server還是想太多
推 sdbb        : 感謝原po和推文
→ a000000000  : server有一半是enterprise  另一半cloud
→ a000000000  : cloud還有中央八成實際上是csp
→ a000000000  : 所有現在arm sever看的到的優勢都可以被蘇媽G叔簡單
→ a000000000  : 處理掉   但是自製arm缺東缺西
→ a000000000  : 講cloud中央八成csp這有點不清楚
→ a000000000  : 應該說尼cloud主力還是出租server
→ a000000000  : 尼直接去看三四年前估狗拿蘇媽的milan噴aws自製arm
※ 編輯: waitrop (76.103.225.6 美國), 05/19/2024 14:20:55
→ a000000000  : 這時間點我完全不覺得arm跟x86本身技術差距有拉近
→ a000000000  : 倒不如說x86兩家都在衝精簡核心  就是要幹尼arm
→ Alwen       : 為什麼ai大家還是都在討論晶片啊= =，黃董都說晶片
→ Alwen       : 只是整個系統的一小部分惹
噓 a000000000  : ai在推論市場  晶片決定尼賺多少錢  沒惹
→ a000000000  : 現存LLM應用最大最成功最容易分析的應該從copilot切
→ a000000000  : 入就好惹
噓 astroboy0   : A90和Waitrop 這串沒股點zzz
推 qscgg       : amd沒肉了，哭啊
推 james56733  : 所以簡單一句就是歐印老黃 沒有了
推 labbat      : x86s只要amd和上海那家跟進 應該能避免IA-64的覆轍
推 chysh       : 你都知道是ARM天下了，還不買QCOM
→ labbat      : 對古老相軟體容性的包袱導致耗電
推 falcon11    : 軟軟不是過兩天要發布搭高通的產品嗎 不知道如何
推 HolyMickey  : 看到這個ID 就知道有好文和討論可以吸收知識惹 讚讚
推 FGK         : 大家討論讚讚
推 pponywong   : MSFT 最大的問題就是市值已經3T了 根本漲不上去
→ pponywong   : 覺得GOOG 還比較有機會 但是要跟openai拚
→ pponywong   : 另外A婆跟M軟 已經代表兩個不同市場了 兩家根本
→ pponywong   : 沒啥競爭關係 會用mac的不會買win
的確,
水果店跟M軟的競爭關係不大,
跟水果店競爭最大的是GOOG,
不論是手機, 平板, AR/VR, App store, 智慧車等等,
你會發覺GOOG 幾乎在每個領域都在爭第一第二的地位,
這有好有壞,
缺點就是公司可能不夠資源在這麼多戰場開打

推 roseritter  : 晶片看的到阿，連出貨量都有，軟體不好估算，除非真
→ roseritter  : 業內
※ 編輯: waitrop (76.103.225.6 美國), 05/19/2024 14:58:38
推 pponywong   : 只看一兩年 我會選 NVDA/MSFT/AMD/GOOG
推 ups         : 大行情^^
→ pponywong   : 最上游要看MSFT/GOOG 這兩家要用誰 誰就有大單
推 pponywong   : 我是看好MSFT的cloud還可以繼續搶AWS的市占
推 pponywong   : ARM問題就跟你講的一樣 PE已經一百多了 被炒太高
→ pponywong   : 而且B2B B2C的產品最好的還是A婆的自己設計的M系列
→ pponywong   : 表示除了A婆自己搞得CPU 沒有一顆ARM可以跟AMD 牙膏
推 ProTrader   : AMD的想爆發的關鍵在於突破NV的CUDA封鎖搶NV的市場
→ pponywong   : 比 就是ARM的隊友太弱了 沒辦法衝
→ ProTrader   : 上次AMD是靠台積電贏I皇 這次我猜要找M軟或G叔
→ pponywong   : QCOM很多年前就說要搞AI 白皮書我都還看過 結果到
→ pponywong   : 現在也沒搞出什麼名堂 甚至在跑分上他的NPU還輸給
→ pponywong   : 發哥
推 ProTrader   : 蘋果跟G叔兩個都有平台產品所以重點要放在上架升級
推 pponywong   : 可惜A婆沒有繼續搞baseband 之前白花錢買牙膏的團隊
→ ProTrader   : M軟有產品能先搞上架升級 但雲端才是決戰戰場吧
→ pponywong   : 但是A婆也不單賣硬體 否則把M系列拿去賣 可以拿一些
→ pponywong   : server市占
→ pponywong   : M軟一直有在升級雲端阿 每年都是花好幾B在升級的
推 grant79823  : 感謝這篇
推 joygo       : 訓練用雲端那麼大膽喔 保密協定都要簽了，然後把資
→ joygo       : 料丟上雲
推 pponywong   : MSFT有49% openai的股份 openai訓練都是用azure阿
→ pponywong   : 所以每次openai發布新的model都會感謝富爸爸微軟
推 v21638245   : 可是amd pe 200多
→ Cliffx      : 之前某個講pe多少的才被教主嗆過 哈哈
推 s987692     : 就不會看財報的
噓 beariscut   : 你這兩篇分析產業整個外行  連Intel被打趴原因都沒
→ beariscut   : 寫 到底是在預測什麼 然後扯一扯就說接下來是Arm伺
→ beariscut   : 服器天下？？？
我已經就這件事情討論過很多次了,
Intel 必輸TSM AMD ARM 這件事我已經說了好幾年了,
我上面文章說Intel 被AMD打趴是2022年寫的,
我最近一篇是這篇文章:
https://www.ptt.cc/bbs/Stock/M.1714199118.A.74D.html
由於Intel 在核心數, 製成, 電耗與溫度上面遠輸AMD 與ARM,
Intel 之後在伺服器市場只會越來越慘,
同樣理由,
ARM 在核心數, 電耗與溫度上面勝過x86 不少,
這在現代的資料中心是非常重要的功能


噓 Ligamenta   : 我要AI device 作什麼???
噓 a000000000  : 說阿婆跟M軟沒競爭的大概根本不懂阿婆在想啥
→ a000000000  : 我看惹會被笑死
→ a000000000  : M軟在pc這塊幾乎是節節敗退   速度很慢而已
→ a000000000  : 還沒啥競爭關係
→ a000000000  : M軟看到fed記者會底下記者都在用mac  尼覺得M軟怎想
→ a000000000  : mba十幾年前幾乎完全取代sony在高階筆電的地位
→ a000000000  : 尼覺得M軟怎摸想
→ a000000000  : 牙膏當年弄出葛ultrabook這東西來  尼覺得M軟怎想
→ a000000000  : 搞到納德拉上台不得不放棄windows first改方針為
→ a000000000  : mobile first   這兩家的戰爭從沒結束
→ a000000000  : 只有阿婆一直打不進商用市場  花惹很多功夫都失敗
→ a000000000  : 因為一般企業IT不想給自己製造多於業務
→ a000000000  : 多餘業務   嘻嘻
→ a000000000  : 阿婆M軟交鋒是到幾年前納德拉投降office全面支援ios
→ a000000000  : 才真的反客為主
→ a000000000  : 結果變成阿婆自己的類office全滅
→ a000000000  : 不懂這塊的人就不要出來扯啥兩邊客群不同惹
→ a000000000  : 兩邊戰爭從來都不4純硬體腦想的那摸簡單好嗎
→ a000000000  : 戰局僵持不代表克群不同   客群不同從來只是錯覺
→ a000000000  : 低價哀配這種東西也是把低階pc幹成大便好嗎
→ a000000000  : 低階pc沒惹  尼windows就少賺  少賺很多好嗎
蘋果跟微軟的競爭點本來就很少,
首先在產品端就是完全不相干,
一個是賣手機, 電腦等3C 產品,
微軟主要營收來自雲端與辦公軟體,
唯一有點小衝突的是個人電腦這塊,
但是衝突也不大,
買Windows電腦的都是比較偏遊戲與辦公室軟體office,
買蘋果電腦的都是創作者與寫程式的居多,
蘋果提供在創作軟體與程式編成的環境與功能比Windows多很多,
所以這兩家公司本來衝突就很少

真正跟這兩家有正面衝突的是Google,
蘋果幾乎所有的產品線都跟Google 對著打,
不論是手機, 平板, 甚至到雲端服務像是google one vs icloud,
itune vs youtube, ... 等,
同樣情況,
微軟也是跟Google 對著打,
從雲端服務對幹 到 辦公室軟體office 對幹,
windows office vs google workspace

所以我說Google 才是真正與蘋果微軟對打的公司,
而Google 戰場開這麼多 其實很危險,
內部資源已經明顯分配不足了

推 KrisNYC     : 推文有東西 讚
推 pmes9866    : xps x1c真的都被mac打爆 慘
推 marcuse1100 : 推教主
推 Stdout      : 感謝原po 跟推文
推 cannedtuna  : LPU和RiscV也需要解說一下
推 deolinwind  : cpu是內行，但股票是外行，內行的人是把股票風險轉
→ deolinwind  : 嫁到別人身上，自己只承受微乎其微的風險
推 askaa       : 感謝wait大大分享  推一個
推 s90154aa    : AMD
推 truelove356 : 結論未來一兩年要買啥？
→ zhi5566     : 看推文結論M軟+NV+APPL 這樣可以嗎?
推 truelove356 : 可是apple今年大陸市場還會持續摔退
噓 final01     : 教主比較厲害~這個w大根本就是大外行XD
推 hydra7      : 教主好
推 transforman : 有擂臺賽可以看嗎?(X
推 aegis43210  : 找有高速傳輸介面研發的公司
推 truelove356 : 譜瑞 算嗎
→ aegis43210  : 微軟市值第一了，本益比會下修
推 herculus6502: QCOM+1票
推 QDR18       : 看法角度不同而已 說人外行自己出來發一篇試看看
推 circums     : W大是巷子內的…
→ a000000000  : 巷子不巷子不代表啥好嗎   我在巷子裡快20年惹
→ a000000000  : 同事一堆謬論也聽20年惹
推 MiniArse    : 拍謝~~~挖出這麼久以前的文章 承讓承讓 XDDDD
→ MiniArse    : 彥州自己都加碼NVDL 惹~~~~ 顆顆
→ Alwen       : 阿北自己就有說過有AMD員工 5元左右就賣光
→ Alwen       : 老黃也有一堆員工砍在一百塊左右
噓 outzumin    : arm server是未來？平行世界捏 看到的都只是想嘗試
→ outzumin    :  這樣就未來  那uLED也是
推 kamichu     : 那你要看四年前這篇唬爛的嗎#1VEKJUfx (Stock)
→ WYchuang    : ARM server就只是想要自幹省錢 但授權其實也不便宜
→ WYchuang    : AMD本來買Xlinx就是要讓產品組合更豐富
→ WYchuang    : 但現在反而都是拚GPU 哪天改成FPGA也能發力就還能賺
噓 energyy1104 : 看到ARM Server就知道你是外行
→ josephpu    : 感謝原po和推文
噓 cyshowen    : 你看好Arm的論述有夠失敗，只有信念成分而已。
噓 cyshowen    : https://i.imgur.com/sUJqj3i.png
→ cyshowen    : Worldwide Server Market Forecast 2023 - 2025 Va
→ cyshowen    : lue (US$M)
→ cyshowen    : 近兩年伺服器非x86的Market Share 你可以超譯成未
→ cyshowen    : 來是Arm Sever的天下？沒數據就別瞎掰了。
→ otaku690    : 牆頭草就是說這種吧 當下風往哪邊吹就往哪邊倒 :)
※ 編輯: waitrop (76.103.225.6 美國), 05/20/2024 02:34:42
※ 編輯: waitrop (76.103.225.6 美國), 05/20/2024 03:20:51
推 andylu1207  : 結論： 買NVDA就對了 或是NVDL
推 srwhite     : 感謝討論
推 wellbutrin  : 買msft 呢？他也有AI,還有核電廠
推 nthukos     : 推
推 donkilu     : 回去看那篇真是XD 我還有在下面推文