看板 Stock 關於我們 聯絡資訊
我發現很多人陷入一個迷思 能做電腦的公司這麼多家 為什麼AI一定要靠NV才能用 chatgpt就不是靠NV起家的啊 也是有其他公司會做伺服器晶片 說不定intel德儀之後有更好的工業伺服器晶片屌打NV 現在不知道為什麼很多人覺得AI是建構在NV的上頭 買一堆NV相關企業的產品 但實際上AI根本就是軟體 像google搜尋引擎一樣的軟體 根本不一定需要哪間公司的伺服器才能做 隨便一家有做伺服器的都能用好嗎 之前挖礦區塊鏈那些公司也能做AI好嗎 所以這波AI真的在亂漲,不知道誰說只有NV能搞AI -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.137.24.102 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1689559109.A.07B.html
goodman5566 : 你可以買INTEL阿 07/17 10:00
jinhouse123 : 你先去研究下訂單的,拿這些NV產品做什麼應用吧。。 07/17 10:00
strlen : 看了這篇 才曉得無知的恐怖 07/17 10:00
goodman5566 : ALL IN買在起漲點 ,財富自由 07/17 10:00
zerro7 : 眾人皆醉我獨醒 你可以all in其他公司 沒人攔你 07/17 10:01
k543k5 : NV是因為設備吧 你有軟體沒有足夠的運算能力還是廢 07/17 10:01
k543k5 : 物啊 07/17 10:01
k543k5 : 你拿軟體跟硬體比 真的有問題欸 07/17 10:02
stocktonty : 原來就跟初音一樣 07/17 10:03
materu : 你可以選百度 07/17 10:04
deepelves : 那你買intel和AMD吧 07/17 10:05
zuvio : google搜尋龐大資料是靠硬體還是演算法 07/17 10:07
zuvio : 如果靠硬體取勝,yahoo最後怎麼輸google 07/17 10:08
iorittn : 現在算AI就是老黃的卡才夠力啊 07/17 10:08
iorittn : 你同演算法用ATI只有不到8成的算力 07/17 10:09
zuvio : 現在只有chatgpt算ai,google還寫不出來 07/17 10:09
mnxzq : openai創立初期 nv送了幾塊顯卡給他們== 07/17 10:09
deepelves : 就說了AI靠蒜粒取勝,硬體不夠力沒辦法 07/17 10:09
PTTpeter : AI晶片、AI晶片,沒有晶片,你有演算法有屌用? 07/17 10:09
mnxzq : 你是不是沒搞懂gpu和伺服器? 07/17 10:09
chresh : 對,你說的都對,你趕快買 07/17 10:09
jayppt : 哇哇哇哇哇哇 都7月了還有這種文章 07/17 10:10
iorittn : Ati 8成還是高估的 07/17 10:10
zuvio : 是看最強的AI是誰,硬體是替代品誰都可以 07/17 10:10
deepelves : 不然美國政府何必限制NV出口中國 07/17 10:10
deepelves : 如果是靠軟體取勝 07/17 10:10
jayppt : 好啦 認真講2個事情 1.伺服器不是都一樣的 AI需要的 07/17 10:10
deepelves : 黃氏定律跟摩爾定律並列重要,不要不信邪 07/17 10:11
jayppt : 運算量 能最有效做運算的就是GPU 也就是NV AMD的卡 07/17 10:11
mnxzq : 硬體誰都可以代替 台積電也是誰都可以代替的啦 07/17 10:11
JuiFu617 : 因為要軟體cuda編譯啊 07/17 10:11
zuvio : 像區塊鏈跟google是一定要NV才能做嗎? 07/17 10:11
zuvio : 當然不用,硬體這種東西誰做都可以 07/17 10:11
jayppt : 2. AMD vs Nvidia 目前軟體配套 開發原件大家都是 07/17 10:11
JuiFu617 : 賣鏟子還附贈全套使用說明 07/17 10:11
jayppt : 用Nvidia的 這和微軟OS開發軟體vs 買IBM OS差別一 07/17 10:12
JuiFu617 : 人家還教你如何發揮鏟子效益最大化 07/17 10:12
jayppt : 樣 你IBM可以喊破喉嚨我電腦也很好 整體大環境大家 07/17 10:12
jayppt : 不在你上頭開發 AMD現在在這裡 07/17 10:13
JuiFu617 : 你買了別家鏟子不會用,挖的到礦嗎?白做工又費時 07/17 10:13
mnxzq : 這文一出 緯創就V了 07/17 10:13
fatb : 不知道為什麼很多人 => 只有你 07/17 10:13
zuvio : 軟體演算法才是核心,硬體用什麼都可以 07/17 10:13
JuiFu617 : 等到別人都挖到礦,你只能在家拿著鏟子哭 07/17 10:13
jayppt : 硬體目前也就只有2家合格 其中只有1家軟體配套合格 07/17 10:14
jayppt : 但 事情其實可以變動的很快 AMD卡效能/價格比 便宜 07/17 10:14
jayppt : 太多了 而且AMD確實信誓蛋蛋說要做好軟體配套 07/17 10:15
saygogo : 卻的GPT不是用NVIDIA?你的資訊有沒有怪怪的 07/17 10:15
bearching : 照你的邏輯說,就是一個是「說不定」,一個是現在 07/17 10:16
bearching : 稱霸,這個不漲誰要漲? 等新的強者出來當然就漲新 07/17 10:16
bearching : 的那個 07/17 10:16
s942816 : 照你的邏輯買pc就好了 07/17 10:16
snoopy790428: 所以有買撼訊嗎 沒有嘛 07/17 10:17
bearching : 隨便一個伺服器都可以,這概念跟隨便一個電腦都可 07/17 10:18
bearching : 以跑大型程式一樣,當然可以,一個跑一個小時一個 07/17 10:18
bearching : 跑整天 07/17 10:18
kirhan2002 : 去作功課再來談好嗎 nv並不是只有硬體 07/17 10:20
CrowChes : 這篇文章很好 謝謝 07/17 10:20
qss05 : 你還是先搞清楚為什麼要用NV吧…但你說的也沒錯, 07/17 10:20
qss05 : 只是不是現在,現成最讚的就是NV,聽說現在小規模 07/17 10:20
qss05 : 最划算的是MAC,你也可以考慮買瓶蓋股 07/17 10:20
laject : 樓上正確,最猛的是Mac的新晶片,內存當顯存 07/17 10:24
RainyCity : 你是電你是光你是唯一的神話 07/17 10:24
ptt948794520: 妳真的很棒 07/17 10:25
jayppt : mac 能直接拿來訓練ai模型嗎 好奇 這很有趣 07/17 10:25
zuvio : 是看最強的AI公司喜歡用誰的硬體 07/17 10:26
zuvio : 不是有最強的硬體,AI公司一定就想用 07/17 10:26
jayppt : m2晶片 我知道可以比擬4070 那用它做opencl訓練ai? 07/17 10:27
zuvio : AI就是比google搜尋引擎更高階的演算法 07/17 10:27
saygogo : 我總覺得,蘋果正在謀劃什麼東西,他媽M2強成這樣,不 07/17 10:27
saygogo : 可能不搶AI這一大塊肉 07/17 10:27
jayppt : 第一次聽到這個想法 我要買aapl了嗎XD 07/17 10:27
zuvio : 可以看成會幫你彙整搜尋資料的搜尋引擎 07/17 10:28
jayppt : amd就是用opencl練ai 蘋果m2堪比輝達4070 那 直接 07/17 10:28
jayppt : 買mac練ai?! omg 07/17 10:28
jayppt : 有種腦洞打開了的感覺 07/17 10:29
stlinman : 大家都會做輪子,為什麼有人造車就跑得特別快? 07/17 10:30
ckp4131025 : M2性能是真的很強,問題在生態系 07/17 10:30
AndyMAX : 身兼瓶蓋跟伺服器的公公吃得到肉嗎 不過前提蘋果想 07/17 10:30
AndyMAX : 搞伺服器 07/17 10:30
deepelves : 4070蒜粒很強嗎==?請去看A100和H100 07/17 10:31
zuvio : 所以微軟bing才可以融合chatgpt一起用 07/17 10:31
Enzofulgura : 聽君一席話 如聽一席話 07/17 10:31
stlinman : m2晶片 CP值高的AI晶片! 07/17 10:31
zuvio : 但微軟有一定買NV的硬體來做伺服器嗎 07/17 10:31
zuvio : 並沒有吧 07/17 10:31
ckp4131025 : A100一個不知道可以買幾顆M2, M2就消費級的 07/17 10:32
mnxzq : 你這樣跳針 緯創也不會跌啦 07/17 10:33
saygogo : 202X年蘋果發表會上,庫客:我在此宣布 AI已迎來的 07/17 10:34
saygogo : 真正的蘋果時刻 07/17 10:34
deepelves : 公公有動阿,怒漲0.5元,腳麻了 07/17 10:34
stlinman : 演算法的競爭力很大一部分來自算力或運算成本(低功 07/17 10:34
lu19900217 : 了解一下CUDA投入的時間點,你不用NV不然用誰的 07/17 10:34
stlinman : 耗),目前就NV的競爭力最強。他耕耘AI這塊就久,馬 07/17 10:36
mnxzq : nvlink了解下好吧 這東西就是排擠其他廠用的 07/17 10:36
stlinman : 太效應下初期一定是贏者全拿。 07/17 10:36
AndyMAX : 蘋果重新定義Ai 瓶蓋噴 07/17 10:39
k798976869 : 谷歌有在台灣印度做TPU惹 07/17 10:40
leon1757tw : 你有錢有時間有電 AI要用什麼算都行 07/17 10:41
assa9647 : 講的那麼多 單呢 07/17 10:41
zuvio : 怎麼沒有人覺得siri也算ai 07/17 10:41
samuelyen : 不靠CUDA的話,GPU加速也有openCL之類的方案,只是 07/17 10:42
samuelyen : 易用性跟支援度還是比不上CUDA 07/17 10:42
lu19900217 : NV是草創玩家軟硬體支援最全面,而且投入超過十年, 07/17 10:42
lu19900217 : 其他間你要投入多少資源才趕得上NV這十年的累積? 07/17 10:42
lu19900217 : 這個累積不只NV技術堆積,還有已經養起來的用戶喔 07/17 10:42
zuvio : siri帶入chatgpt的ai演算法就變超強AI 07/17 10:43
jayppt : 我算過了啊 一個A100大概等於不到10張普通顯卡效能 07/17 10:43
zuvio : AI重點是軟體演算法,不是硬體 07/17 10:44
vi000246 : 看來你不是內行的 不用出來抬槓了 07/17 10:44
jayppt : 但一個A100要台幣90萬耶 07/17 10:44
stlinman : 演算法不用靠硬體去算唷? 靠硬體不用計較運算成本跟 07/17 10:45
gn00670191 : 看這篇文章跟推文浪費了五分鐘 07/17 10:45
stlinman : 跟算力唷! 07/17 10:45
mnxzq : 真的一直跳針浪費別人時間 07/17 10:45
nantai25 : 你說啥都是多餘的,股價會證明給你看 07/17 10:46
YJM1106 : 追求到極致的時候 成本差5%就能統一市場 07/17 10:46
hn013579 : 拜託你空 07/17 10:46
jayppt : 我收回剛價格的推文 a100價格很亂 看不懂 07/17 10:48
thegame09305: 這波就是2000年前夕的翻版 07/17 10:50
benson01 : 建議你去看看AI訓練需要多少硬體資源,再來說硬體 07/17 10:52
benson01 : 不重要吧 07/17 10:52
ksmeng : 天啊 07/17 10:56
hn85255413 : AZUR/AWS的GPU instance硬體都是NV好嗎?哪來的cha 07/17 10:59
hn85255413 : tgpt不用NV訓練 07/17 10:59
xczh : 推原po獨立思考,但需要補充點產業資訊 07/17 10:59
strlen : 你各位別再鞭了 股市就是需要這種燃料才會噴好唄 07/17 11:00
strlen : 就讓他一直跳針硬體不重要沒關係啦 你可以歐硬空NV 07/17 11:00
sunny401 : 軟體是要靠硬體加速的,多和做ic的朋友聊聊 07/17 11:00
zuvio : bing也加入chatgpt,有用到NV訓練? 07/17 11:01
strlen : 沒有 沒人用 趕快空 空完記得PO單 我們支持你 07/17 11:01
jackwang01 : 認真的嗎== 07/17 11:01
strlen : NV下月財報肯定大爆死 顯卡庫存高 AI卡沒人用 快空 07/17 11:02
zuvio : 我不是說沒用到硬體,而是各種硬體都能 07/17 11:02
benson01 : 事實上ChatGPT用到超多GPU 07/17 11:03
zjnovember : 呃,好喔 07/17 11:04
jayppt : nvidia顯卡部分真的很爛 爛透 4開頭的還不如3080ti 07/17 11:04
zuvio : AI不是只有NV能做,有搞伺服器的都能 07/17 11:05
benson01 : 你看到的只有前端,在後端訓練就是只能用特定的硬 07/17 11:05
benson01 : 體,一般的CPU會跑到天荒地老 07/17 11:05
benson01 : 你需要多看資料 07/17 11:05
JuiFu617 : a100這些是特化顯卡,簡稱算卡,專門用來訓練ai的 07/17 11:05
zuvio : AI跟區塊鏈跟搜尋引擎都一樣是演算法 07/17 11:06
lu19900217 : NV的護城河有多寬,要了解AI的論文有多少是基於NV的 07/17 11:06
lu19900217 : 軟硬體去做的,這如同MS在學校就開始養用戶一樣 07/17 11:06
sonnyc : 用別的硬體訓練到天荒地老 生意還要不要做了 07/17 11:07
benson01 : 假設用一般CPU訓練要幾個禮拜,用GPU只要幾分鐘, 07/17 11:09
benson01 : 請問你要用哪一個? 07/17 11:09
WHD1445 : 可悲文組 07/17 11:09
jayppt : 特化卡沒到那麼猛的 最強的64浮點運算 特化卡也不到 07/17 11:11
jayppt : 10倍效能 真實訓練resnet machiine learning 特化 07/17 11:11
jayppt : a100大概就nvdia高端30開頭卡的2倍效能多一些 但耗 07/17 11:12
jayppt : 能減半就是 07/17 11:12
JuiFu617 : 特化卡專門為ai服務還可以用nvlink來實現更高效的 07/17 11:13
JuiFu617 : 併聯計算 07/17 11:13
sonnyc : 重點nvlink可以串一大串運算卡協同作戰 一般顯卡沒 07/17 11:13
sonnyc : 辦法 07/17 11:13
JuiFu617 : 現在就是用算卡來串連大力出奇蹟啊 07/17 11:14
uller : 你這樣很好啊 這樣我就可以安心繼續報著 07/17 11:14
k85564 : 重點是怎麼把數張gpu連接起來 07/17 11:15
BruceChen227: 誰市佔高誰就是老大 07/17 11:15
k85564 : 你說的那些晶片跟nv根本沒關系 07/17 11:15
k85564 : 德儀根本做不同東西 也扯在一起 07/17 11:17
JuiFu617 : 量變產生質變,人家都示範過的路了 07/17 11:17
k85564 : 先前收mellanox 07/17 11:17
Williamette : 求你別買NV 07/17 11:18
jayppt : 橫向串聯 其實挖礦時代市售卡就有了 不是特化卡專有 07/17 11:19
k85564 : 這篇連軟硬體都搞不懂吧.. 07/17 11:19
jayppt : 知道為何用gpu嗎 不用cpu?因為machine learning的 07/17 11:20
ji3g4tj06fu6: 笑死,你看Google這幾年釋出的平台只能用在哪家硬 07/17 11:20
ji3g4tj06fu6: 體上? 07/17 11:20
jayppt : 運算 一開始就是橫向的運算啊 07/17 11:21
ronite : 沒關係你可以別買,或者去放空 07/17 11:23
rqm : 不懂的人還是很多 表示還有很大漲的空間 07/17 11:24
jayppt : 一張卡一秒例如讀1000張圖片 10張卡1秒1萬張這樣 07/17 11:25
jayppt : 反正 釐清一個事情就好 ai訓練 machine learning 07/17 11:25
jayppt : 橫向串聯 全部都不是什麼特化卡專有的東西 就醬bye 07/17 11:25
kamio : 做AI不買NV的卡一定是抖M 07/17 11:27
crowley : 你可以先去看一下機器學習的yt再來討論 07/17 11:28
a79111010 : 反正老黃都先賺 以後就是ASIC的事 07/17 11:31
weiflower520: ….好可憐 所有AI絕對是建立在NV的硬體上 07/17 11:34
iammi21 : 空很多嗎? 07/17 11:35
sonnyc : gpu串聯現在nvlink+nvswitch速度還是屌打其他人的 07/17 11:35
bala73 : 這波爆發式起漲點在哪 可以回去看一下 是不是某刀 07/17 11:43
bala73 : 客Q1財報開出來嚇死分析師 07/17 11:43
ravager : 你說得都對,那你還不快去投資非NV陣營的硬體供應商 07/17 11:52
just206 : 讚,見解獨道 07/17 11:54
DrTech : 但實際上AI根本就是軟體… 。 請教一下Intel 的CPU 07/17 11:57
DrTech : 有哪個可以訓練,大型語言模型的? 07/17 11:57
Brioni : 現在是開AI賭場,大家一起玩一把 07/17 11:58
chenteddy : 你說的都對 CUDA就是個被吹噓的東西 07/17 11:59
chenteddy : 趕快去買 intel 07/17 11:59
rahit : 這篇看起來一堆連AI到底是什麼都不懂的在嘴人 07/17 12:06
rahit : 笑死 07/17 12:06
Anutmiao : 只懂一點點就開始嘴的才是最無知 07/17 12:14
Presentation: AI 相關的演算法20幾年前就有了,為什麼做不到?因 07/17 12:14
Presentation: 為硬體跟不上啊 07/17 12:14
chilldewy : https://youtu.be/EdTPykGAe0Q 自己看吧 07/17 12:14
aa6300158 : AI根本就是硬體,硬體不夠強,要訓練個頭。 07/17 12:16
Presentation: 現在AI最強的不是演算法,是大量資料的處理能力, 07/17 12:18
Presentation: 這個你靠演算法改來改去還不如硬體的一次升級 07/17 12:18
shorty5566 : 這篇菜味超重 笑死 我看你連TI跟INTC在做啥都不知 07/17 12:21
ashrum : 我的簡單認知,CPU講人話,GPU講電腦話,AI要講電 07/17 12:29
ashrum : 腦話的運算中樞才省電省時 07/17 12:29
k85564 : 先搞清楚類比(TI)跟數位 可以看看最新的那部電影 07/17 12:29
k85564 : 有介紹 07/17 12:29
heinzblack : https://i.imgur.com/4dUE2Lq.png 07/17 12:30
knetlalala : 你不知道,不代表其他人也不知道 07/17 12:31
k85564 : 樓上可以想像成cpu是教, gpu是小學生,ai其實就是 07/17 12:31
k85564 : 處理簡單的事情 ,只是要一次處理上兆個次,所以沒 07/17 12:31
k85564 : 有孰優孰劣,只是應用不同而已 07/17 12:31
shorty5566 : AI的本質是高速運算 不要出來給別人笑了 07/17 12:31
shikemurajy : 你去念個研究所,做AI相關題目 07/17 12:33
shikemurajy : 你就知道為什麼了 07/17 12:34
shikemurajy : 除非NV有很明顯缺點,不然近五年很難被超越 07/17 12:34
ashrum : 如果只是要高速運算,那量子電腦才是唯一解,問題 07/17 12:35
ashrum : 它就不是,AI軟體設計“在GPU”體系下有突破也是原 07/17 12:35
ashrum : 因 07/17 12:35
shorty5566 : 量子電腦在一般場景根本用不了 還要特定演算法 07/17 12:37
allen0080 : 如果大家的理解都像這樣就好了,我還有便宜NV可以買 07/17 12:37
orz811017 : 類神經網路大概199x就有了,你有沒有想過為什麼要 07/17 12:37
orz811017 : 到201x年才開始大紅大紫 07/17 12:37
orz811017 : 為什麼連Google都要發展自己的TPU而不是用CPU 07/17 12:37
scott112 : 那你還不趕快下空單 07/17 12:37
shorty5566 : 簡單來說NV的模組就是最泛用性的也最好用的 07/17 12:38
wade00123 : CUDA架構下的效率就是比較好 07/17 12:38
wade00123 : 才會搞到蘇媽直到今天都還沒大單 07/17 12:38
shorty5566 : 拿蘋果來說就是軟硬整合技術力最強 這樣就很好懂 07/17 12:40
jayppt : 問題就在這 這裡不是台積電vs三星 硬體實力差太多 07/17 12:40
shorty5566 : 所以可以說nv目前是ai界的蘋果 07/17 12:40
jayppt : 如果 如果啦 護城河是軟體架構的話 那就會怕夠不夠 07/17 12:41
jayppt : 寬 07/17 12:41
nimab : 這篇文一堆不懂AI只會炒股的人 好好笑 07/17 12:41
shorty5566 : 拿ti出來說嘴真的太搞笑了 完全搞不清楚狀況 07/17 12:42
nimab : 只會跟風買 技術卻一點了解都沒有 悲哀啊 07/17 12:42
dick0209 : 蘋果當初也用了三星跟台積電的晶片,誰說硬體沒差的 07/17 12:45
jayppt : 誰提啥泛用?真的很奇怪 奇怪 07/17 12:47
jayppt : cuda之所以強就是只做相關運算啊 07/17 12:47
hungyichan : 你被割韭菜只是剛好而已 07/17 12:47
puffycat : 什麼迷失!開源上都是CUDA的code!這事NV累積十幾 07/17 12:47
puffycat : 年的結果!另外兩家CPU大頭在當年才不管這市場!現 07/17 12:47
puffycat : 在搞得一家獨大! 07/17 12:47
orz811017 : 現在就是沒錢的小廠乖乖買的NV買公版,大廠如Amazo 07/17 12:48
orz811017 : n Google燒錢做ASIC客製化,什麼硬體不重要,最後 07/17 12:48
orz811017 : 都是從上層軟體一路戰到底層硬體,不然為啥iPhone 07/17 12:48
orz811017 : 海放Android,不就apple軟硬整合好 07/17 12:48
rewisyoung : 知道CUDA是什麼嗎? 不知道難怪沒料 07/17 12:48
jayppt : amd用的opencl才是泛用 能用在AI訓練到FPGA都能用 07/17 12:49
rewisyoung : A100一個30萬 H100一個120啦 07/17 12:51
fan5566 : 笑死 演算法都多久了 07/17 12:52
puffycat : 在ChatGPT之前要推他廠的AI方案,第一個被打槍的是 07/17 12:55
puffycat : 客戶的原有CUDA code怎麼辦?原廠說客戶可以自己轉 07/17 12:55
puffycat : !客戶就謝謝再聯絡!繼續買NV的卡! 07/17 12:55
shawn0205 : https://i.imgur.com/VVy1XfY.jpg 07/17 12:59
brad850402 : 無知不可怕 無知還大聲比較可怕 07/17 13:39
ninggo : 你可以解釋一樣是沙子為什麼一定要台積電嗎 07/17 13:43
ray333 : 明明車子都可以開,為啥妹只上benz bmw? 07/17 13:51
john65240 : 文組發言總是讓人笑 07/17 14:51
ckp4131025 : Cuda vs Opencl就是iOS vs Android還有人不懂嗎 07/17 15:32
ekgs : 標準外行 07/17 17:09
energyy1104 : 你的AI是用冥想運算的嗎 07/17 19:20