Re: [新聞] AI版圖將洗牌？Meta傳洽購Google AI晶片TPU

[Arim (億載金城武)]

※ 引述《winall (winall)》之銘言：
: Google 的 TPU 已經很久了
: 在 OpenAI 發表 ChatGPT之前 , Google 就在用 TPU了
: 簡單講 Google 為了訓練AI , 自己研發一款專為AI訓練的晶片
: 這個晶片通常需要自己調校
: 這已經發表很久了 , 為什麼現在才在炒
: 可能是最新的 Gemini的成功吧
: 不完全好的比喻
: Nvidia GPU = Windows ; Google TPU = Linux
: Nvidia GPU = 自排車  ; Google TPU = 手排車
: TPU 拿掉所有跟AI無關的功能
: 其他團隊要用的時候 需要先花很多時間去了解跟調校
: 但是 Nvidia 的 GPU 已經有各種好的套裝 , 可以很快地開發
: 但你看現在用 Windows的人多 還是 Linux的人多
: 現在開自排的人多 還是開手排的人多 ?
: TPU適合自己完全的調教跟開發
: 未來可能會有人用TPU
: 但主流仍然是 Nvidia GPU

一般使用者的訓練主流一定還是 gpu，但我指的一般使用者指的是訓練非 LLM 相關的，可能是之前的 CNN 或是更傳統的機器學習，比如物件偵測或是讓臉辨識，但這個很早之前就已經發生了，從以前到現在這塊領域確實都是用 cuda

只是訓練非 LLM 本身就不需要這麼多顆 GPU 阿，真的需要這麼多顆的話 Nvidia 十年前 alexnet 出來就該漲爆了

google 的策略一直都不是賣 TPU 給其他人，而是用在他們自家的 ai 訓練上，現在 LLM 賽道就是在拼誰第一，有一個第一的，你還會用第二名的嗎？更何況現在 Gemini 跟 gpt 的差距越來越大，而 nv 最大的客戶就是在這條賽道上的人，像是 openai 就是砸大錢租資料中心，資料中心因為要有 gpu 才能租，所以就跟 Nvidia 買 gpu

假設未來 Gemini 把其他 LLM 遠遠甩在後面，那這條賽道的意義就沒了，就跟三星越做越虧錢一樣，因為再怎麼砸錢也沒辦法贏台積，那 openai 繼續租資料中心的理由就沒了，資料中心的需求減少了，NV 就會回退到過去 CNN 剛爆發的時期，而這也要 CNN 及傳統機器學習持續有需求，但，有可能嗎？





-----
Sent from JPTT on my Xiaomi 2311DRK48G.

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.218.240.169 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1764341168.A.158.html
→ OxFFFFFFFF  : 懶覺比雞腿。
推 sdbb        : 推一樓ID
推 orz811017   : Gemini根本不用第一也可以活好好的
推 junior020486: 無聊，改天其他巨頭推出更好的LLM又回去炒gpu概念
→ junior020486: 股
→ junior020486: 而且誰說AI的終點只有LLM?
噓 strlen      : 那Google幹麻不把Waymo收一收好了 跟FSD差距也越來
→ strlen      : 越大
推 sdbb        : 谷歌要全家桶，Waymo一定要
推 mamorui     : LLM一落後 就會像三星落後台積一樣 除非等到新演算
→ mamorui     : 法來改變這一切。但少說等6～10年才有可能 上一次
→ mamorui     : 的AI奇蹟是AlphaGo
→ mamorui     : 就像輸入法一樣 最後通用輸入法是使用大宗（不可逆
→ mamorui     : ）
→ sdbb        : 一直以為菇菇只會在置底出沒，現也會到處串門子
→ mamorui     : 我正在做圖片 閒聊太容易聊很久 我也會串串文章
→ sdbb        : 有通用輸入法？手寫？語音？拼音？心電感應？
→ mamorui     : 就新注音。以前倉頡 速成 無蝦米都有熱門過
推 sdbb        : 無蝦米要收費，無法內建，行列免費，但不熱門
推 mamorui     : 時代會帶來更多好玩的科技 這次LLM勝利者最後會是
→ mamorui     : 至少3-5年的ToC主流吧 但巨頭還是會保有自家LLM主
→ mamorui     : 權(就算不是最強）
→ mamorui     : 這次比完，就要等下一代技術了，只會難度更高
推 ru04hj4     : AI終點是虛擬的元宇宙和現實的機器人
推 mamorui     : 元宇宙真的很難 要提升使用時間的沈浸感最難
推 mamorui     : 明年只要狗狗可以維持這狀態 穩定的表現會綁住消費
→ mamorui     : 者 他還有安卓上還沒發揮 慢慢來吧 先搞定雲端服務
→ mamorui     : 整合 穩定安全優先
推 saiboos     : 訓練GPU 推論TPU
推 applejone   : 新的演算法，Google已經有論文了，我覺得大概後年
→ applejone   : 可以看到成果
推 kobebrian   : AI還是要以AGI為終極目標吧
推 s90154aa    : 好的 我買NV
推 EarlyInMay  : AI的市場需求又不只llm
推 mamorui     : llm是必備的AI本文生成工具，有需要文字再進行轉換
→ mamorui     : 的應用時，會左右垂直型AI的結果
推 greedypeople: 元宇宙大概要腦內晶片完全成熟才有搞頭  沒個二十年
→ greedypeople: 我覺得應該是實現不了的
推 pc007ya     : 默默等待吧
推 breathair   : GPU的需求絕對沒問題，護城河也沒問題，他的風險只
→ breathair   : 在於「軍備競賽」什麼時候會降溫？降溫的時機點就是
→ breathair   : ，我玩命堆算力，借錢堆算力，我也吃不下你，不玩命
→ breathair   : 堆，你也吃不下我。
→ breathair   : 以ROI為前提理性購買GPU，這才是NV會遇到的
推 kentelva    : 腦袋不清楚的人很多。Gemini 3並沒有屌打其他人
推 waitrop     : Waymo沒有輸FSD,都已經上高速公路了,也進東京了
推 easyman     : 各領域前幾大公司，不會有人在AI領域認輸。甚至對
→ easyman     : 國家，也是國運之爭。
→ easyman     : 落後的，只會想要彎道超車，彎道超車表示超出了AS
→ easyman     : IC 範圍，只能靠GPU
推 breathair   : 有沒有可能國運的瓶頸不在算力，在數據跟算法？
推 mamorui     : 不是幾家都說scaling law搞不下去了
推 hanbur      : 我現在的server裝不了tpu,為了這個還要整組換掉
推 easyman     : scaling law搞不下去, 代表要找新方法
→ easyman     : 要比其他人找到新方法，當然希望有大算力
→ easyman     : GPU架構提供彈性,nvda提供算力,方便找到新方向
推 Stella      : Gemini 強歸強，但並沒有和其他人拉開差距好嗎
→ Stella      : Coding 打不過claude 和 gpt5 codex
→ Stella      : 影片還有sora2