推 freeclouds : 確實這樣 賣鏟子的還是大贏家 大家都下來挖 01/27 20:16
噓 kensmile : DS就用H100而已，你覺得會有什麼擴大需求 01/27 20:17
→ kensmile : 需求增加的低階，不是高階 01/27 20:18
→ kensmile : 這才是可怕 01/27 20:18
推 jason0925 : 鐵鏟子金鏟子 挖出來東西一樣很盤呢？ 01/27 20:18
→ jason0925 : 買鐵鏟子的爽死 買金鏟子的死去 01/27 20:18
推 andy810306 : 大膽，傻多表示萬一金鏟子有隱藏裝備附加技能呢 01/27 20:18
→ kensmile : H100就能用，誰要用GB300 01/27 20:19
→ kensmile : DS帶來的是這個衝擊 01/27 20:19
你確定用GB下來算這套算法會一樣嗎？你沒看懂我的文 話說台積電也還真沒差 因為2-5
奈米晶片都制霸 H100你敢用七奈米嗎
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:20:46
→ kensmile : 完全搞不清楚原因 01/27 20:20
→ fashsboy : 成本差異這麼大，投資方不會問為什麼別人用H100做的 01/27 20:20
→ sa87a16 : 金鏟子跟木鏟子 能挖出一樣東西，誰要買金鏟子 01/27 20:20
→ fashsboy : 起來你不行？你說美國那些AI公司要怎麼回答這問題？ 01/27 20:20
→ saisai34 : 用GB300能耗比比較划算啊 @n@a 01/27 20:20
推 freeclouds : 現在難道三星 英代爾 聯電可以生出鐵鏟子? 01/27 20:20
推 andy810306 : 傻多表示：你們要做夢啊，說不定金鏟子有隱藏加成 01/27 20:20
推 naligono : 市場是往效率方向走 不是比速度 01/27 20:21
你要先確定現在的硬體上限已經無法推升效率了 就是我說的 硬體本身的上限才會是天花
板
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:22:41
推 edward0811 : ex打坦克，大量肩扛武器比f35有用吧 01/27 20:22
以美軍的角度來說 還是陸空一體打擊比不對稱有效率 因為硬體的效率上限還是無上限
烏克蘭要不是沒更多軍援也不用在那邊讓人肩射消耗
推 q541700 : 以單為證沒單就是瞎猜 01/27 20:23
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:25:03
推 jaricho : 照著邏輯 所以幹嘛買i16 買個i8就爽爽用了啊 01/27 20:23
噓 f12sd2e2aa : 什麼都不懂還能出來發文 厲害 01/27 20:23
推 zxcjimyou : 壯膽文 別怕 下週再現期指跌停 01/27 20:24
推 amig0123 : 買華為就好了 幹嘛買蘋果 對吧 01/27 20:25
推 jiansu : 如果是1/50的成本 硬體也是需要1/50 你量要變成50 01/27 20:25
→ jiansu : 倍 短期間量不一定有50倍 然後硬體1/50有更多硬體 01/27 20:25
→ jiansu : 廠商可以 說不定7nm也有機會了 短期就估值要調整 01/27 20:25
推 Rbian : 呃 DS離AGI還很遠，怎麼會覺得H100就能滿足需求了 01/27 20:26
→ Rbian : 。。。 01/27 20:26
推 edward0811 : 買iPhone13,不需要買到16，拿8比喻幹嘛 01/27 20:26
推 bonfferoni : 100分的產品 有人用50元作出80分產品 有人用500元做 01/27 20:26
噓 F93935 : 這樣也一篇 傳產腦的下來評論ai 01/27 20:26
→ bonfferoni : 95分的產品實際上80的產品就夠用了 01/27 20:26
事實上現在AI的開發很大一部分就是成本被限制住 如果有更有效率的軟體搭配硬體 潛在
市場的開發量是難以預估的 你想想現在AI受眾多小就知道了
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:28:00
推 strlen : 如果今天的確大家只講效率性價比 那的確就這樣了 01/27 20:26
→ kougousei : 現在的產品離agi都還超遠 等已經飽和達到agi再來吵 01/27 20:27
→ kensmile : 只要提升算法，中小型Ai公司，根本不需要用到高階 01/27 20:27
→ kougousei : 什麼買兩代前硬體就夠好不好 01/27 20:27
→ strlen : 但感覺大家的目標還是AGI 就連DS自己也說目標是AGI 01/27 20:27
→ kinki5566 : 蘋果出個i16minus 性能只有i8 價格1000台幣 一定賣 01/27 20:27
→ kinki5566 : 到爆好不好 01/27 20:27
→ strlen : 既然目標是AGI 總不會連國中數學題都解不出來吧 01/27 20:27
→ kensmile : 什麼i8，i16鬼打牆的舉例 01/27 20:27
→ strlen : 是不是先用新硬體加新算法 幫幫忙解一下國中數學？ 01/27 20:28
→ kensmile : 終端消費電子是消費者偏好 01/27 20:28
→ strlen : 連國中數學都解不開 這算是 夠用 嗎？ 01/27 20:28
→ kensmile : 不是生產者成本 01/27 20:28
現在的AI根本連消費市場都沒辦法滿足 不是說消費者很滿意現在的AI服務 而是大家都還
在靠腰AI怎麼這麼廢 有更有效率的軟體+硬體才是真正讓需求被滿足的首要條件
推 edward0811 : 例如5070不需買到5090差距才對吧 01/27 20:28
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:29:47
→ strlen : 還是覺得 AI只要能拿來問問附近有什麼好吃的 就好 01/27 20:28
→ strlen : 那其實連GPT3都夠用了 01/27 20:29
推 tai890123 : 其實重點就是這套算法用高階的硬體去跑 01/27 20:29
→ tai890123 : 能不能有更高的效率 如果有 01/27 20:29
→ tai890123 : 那最後大家都採用這算法 還是有硬體需求啊 01/27 20:29
→ strlen : 現在的LLM還遠遠不足吧？多模態算法也可以改進下嗎 01/27 20:30
→ tai890123 : 重點是因為他是開源大家都能學吧 01/27 20:30
推 a22530722 : 接下來大家模型都一樣強 還是得回歸到比硬體吧..... 01/27 20:30
→ strlen : DS好像也沒有語音AI 也沒有圖像AI 影片AI 01/27 20:30
其實就我文中那一句話 除非證明硬體的上限已到 不然就是繼續拼硬體 有人用F-35當舉
例論證效率結果打到自己臉 人家現在拼命搞六代機了 就是硬體上限還他媽看不到邊勒
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:32:18
→ strlen : 通通都提升 然後結合在一起 或許才摸到AGI的邊吧？ 01/27 20:30
噓 liliumeow : 問題是目前大廠的最終需求很可能大砍 那預期未來要 01/27 20:32
→ liliumeow : 砍之後 你現在的議價權整個就沒了 01/27 20:32
那大廠必須有絕對的把握 硬體已經無法有效率的提升運算了 不然同一套算法下 好的硬
體能比別人做更多 那誰敢不用
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:33:33
→ mongduo : 商轉要加速了，請找好標的。 01/27 20:33
推 tai890123 : 除非證明這套算法用高階的硬體跑不會有效提升 01/27 20:33
→ tai890123 : 不然為啥需求會掉？ 01/27 20:33
→ tai890123 : 難道大家不會繼續往上追求了嗎 01/27 20:33
→ tai890123 : 難道有人覺得 ai已經不能再提升了 01/27 20:34
→ tai890123 : DS現在能做到已經是完美的嗎？ 01/27 20:34
→ tai890123 : 前面就很多人列舉了他的缺點 01/27 20:34
→ tai890123 : 包括記憶不足的問題 這些都是好硬體能解決的捏 01/27 20:34
→ strlen : 應該是說 大家對AI能力的上限要求到哪邊 01/27 20:35
→ strlen : 如果覺得r1就是終點了 不用再提升了 我們這樣就好 01/27 20:35
講難聽的啦 現在別說理組 連跟AI最沾不到邊的文組公司 都會問AI怎麼這麼廢 就最普通
的老百姓都對AI的功能有更多的夢想 消費者對AI只會要求的更多
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:37:57
→ strlen : 那當然硬體就下去啦 但很明顯連DS自己都說希望提升 01/27 20:35
→ strlen : 硬體 有機會的話 還可以弄出更好的AI 01/27 20:36
→ kougousei : 如果有人覺得現在這些模型就是ai的重點 那真的 01/27 20:36
推 lusifa2007 : 找理由空而已 有核彈為什麼還要近一步研究氫彈 因 01/27 20:36
→ lusifa2007 : 為要比對手更近一步 01/27 20:36
→ kougousei : 科技股賣一賣 如果ai這麼蠢大家就滿足的話 01/27 20:36
→ lusifa2007 : 怎麼會有人以為DS不想搞到gb200 01/27 20:36
→ lusifa2007 : 它是搞不到 01/27 20:37
推 naligono : 長期還不明朗 但短期需求鐵定大幅下修啊 不然在跌 01/27 20:38
→ naligono : 什麼？ 01/27 20:38
現在連砍單的新聞都沒有 我更傾向是市場恐慌 也不是沒示範過 NV前幾個月還有破百價
我還爽買喔
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:39:23
→ strlen : 短空是一定的 因為人很容易滿足 覺得這樣就好的人多 01/27 20:38
→ strlen : 我自己用到現在的感覺 AI在生產力工具上 零件的提升 01/27 20:39
→ strlen : 已經慢慢有在起來了 一年前那個根本是很掉漆 01/27 20:39
→ IBIZA : 其實不是DS想不要搞GB200, 你要問的他用多少總算力 01/27 20:39
→ IBIZA : 達到這個結果 01/27 20:39
不重要 因為更強的硬體用這套算肯定只會更強...除非硬體上限到了
推 PalmAngels : 范紐曼瓶頸 01/27 20:39
→ strlen : 現在是堪用 但理想是產出零件 自己組合成系統 01/27 20:39
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:41:13
→ strlen : 我想如果你親自去問DS梁文峰算力夠嗎 他絕對跟你說 01/27 20:41
→ IBIZA : 如果真的只要1/50算力 就能達到可以接受的結果 01/27 20:41
我也講了 現在連最廢的文組消費者都覺得AI有夠爛跟笨 網路YTR還在排跟自己的AI對話
的蠢影片嘲諷 會覺得「可以接受」那真的太容易被滿足了
→ strlen : 遠遠不夠的啦 XD 01/27 20:41
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:42:31
→ strlen : 至少目前看到的所有業內 都不認為算力夠了 都是外圍 01/27 20:41
→ strlen : 的在講 01/27 20:41
→ IBIZA : 我不用問他 他的api定價是open ai的1/100 01/27 20:41
→ strlen : DS認為這是可接受的結果 但有想停在這裡嗎 01/27 20:42
推 stpada : 更強的硬體 但更少的數量 不就有overbooking 疑慮 01/27 20:42
→ IBIZA : 而且open ai是虧損50%, 他是盈利50% 01/27 20:42
→ IBIZA : 沒人說他會停在這 01/27 20:42
→ xephon : 後面要看模型有沒有碰到天花板，堆算力效果不一定好 01/27 20:42
→ IBIZA : 問題就是 整個市場如果只需要1/50的算力就能達到 01/27 20:42
能達到什麼？現在的程度嗎？sry人類只想追求更屌的AI 用更好的硬體下來算這套只會有
更多人買單
→ strlen : 昨天有人貼訪談 他的目標 說AGI耶 r1是AGI嗎 XD 01/27 20:42
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:43:37
→ IBIZA : 現在的需求 那剩下的49/50的算力是不是要大拍賣? 01/27 20:42
剩下的49/50就是要他媽打爆對手的份而已 因為大家都會你這套算法了
推 bagaalo : 可以接受的結果？怎麼要算可以接受？目前都還是在軍 01/27 20:42
→ bagaalo : 備競賽，比賽到一半而已，又有什麼結果？ 01/27 20:42
推 lusifa2007 : 盈利50%？它有宣布盈利了嗎？ 有這則新聞？ 01/27 20:42
→ strlen : 本身都發願了 所以市場覺得這樣夠了 他就退休了？ 01/27 20:43
→ IBIZA : r1不是AGI 現在談的是市場 不是DS自己的發展 01/27 20:43
→ IBIZA : 很簡單啊 現在open ai 1M tokens input是12美元 01/27 20:43
→ strlen : DS在LLM是站穩一點了 還有多模態等著你呢 加油啦 01/27 20:43
→ IBIZA : DS是0.12美元 01/27 20:43
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:44:56
→ strlen : 怎不是談DS自己發展？AI不談發展談啥？ 01/27 20:44
→ IBIZA : 而且DS開源 等一堆中型企業架起他們的LLM伺服器 01/27 20:44
→ IBIZA : 你看這市場怎麼走? 01/27 20:44
→ IBIZA : AI市場不是只有DS自己發展吧XD 01/27 20:44
就是因為不是只有他們 這套算法好用大家一起開發 接下來就一樣拼硬體 不是1/50可以
有一樣的結果就會停下來 49/50就是要去打敗其他用套一套算法的對手
→ strlen : 更便宜效率更好 本來就是可預期的事 老黃去年演講也 01/27 20:45
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:46:35
→ strlen : 自己早就預測算法一定會改進 AI成本會變更低 01/27 20:45
→ IBIZA : 更便宜 效率更好 突然暴增50倍的算力 有50倍需求能 01/27 20:45
→ strlen : 老黃自己早就心裡有底也說好幾次了....... 01/27 20:45
→ IBIZA : 吃下來嗎 01/27 20:45
推 tai890123 : 問題是這個可接受的結果在哪 01/27 20:45
→ tai890123 : 以科技業來說 他們一定都是追頂這個沒疑問吧 01/27 20:45
→ tai890123 : 以日常來說 有gpt4跟3擺在你眼前 01/27 20:45
→ tai890123 : 你覺得兩者差距不大 那你的接受區間比較大 01/27 20:45
→ tai890123 : 那確實就不用往上追 01/27 20:45
→ tai890123 : 只是這種人多嗎 01/27 20:45
→ tai890123 : 至少我自己能用4絕對不會回頭用3 01/27 20:45
→ IBIZA : 沒有的話 那堆積算力就要停下來了 01/27 20:45
→ strlen : 暴增的50倍算力 是不是就可以拿來提升AI 讓它至少可 01/27 20:46
→ strlen : 以解國中數學題 XD 01/27 20:46
→ IBIZA : ..... 01/27 20:46
推 bonfferoni : 可接受結果應該是商轉應用的方面 不是科技巨頭在爭 01/27 20:46
→ strlen : 還是你覺得國中數學題不重要？我還以為AI說要用在教 01/27 20:46
→ strlen : 育是說說而已 01/27 20:46
→ IBIZA : 你先搞清楚整個AI市場是長怎樣好嗎 01/27 20:46
就我的觀察 是連最廢的文組公司都在買gpt 但還覺得他不夠好用 4o
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:47:42
→ IBIZA : OpenAi一年大概80億的支出 這部分是OpenAi自己進化 01/27 20:47
→ IBIZA : 的費用 01/27 20:47
推 tai890123 : 追根究底就是需求有沒有過剩 01/27 20:47
→ tai890123 : 如果真的過剩 還真的不一定需要這麼好的硬體 01/27 20:47
→ tai890123 : 就跟你買電腦 01/27 20:47
→ tai890123 : 如果只用1080p螢幕幹嘛買90顯卡一樣 01/27 20:47
→ IBIZA : 微軟的800億美元投資 則是架構平台 提供API給市場 01/27 20:48
→ IBIZA : 上所有需要AI的企業 去呼叫微軟佈設 以ChatGPT 01/27 20:48
→ strlen : 那個國中數學就證明 AI多模態這邊 還有得玩勒 01/27 20:48
→ IBIZA : 為底層的應運 01/27 20:48
→ IBIZA : 應用 01/27 20:48
→ kobebrian : 這樣回比較快 現在的市場連最文組的公司都覺得gpt 01/27 20:49
→ kobebrian : 遠遠不及格 用1/50的算法有一樣的效果 應該要想的 01/27 20:49
→ kobebrian : 是我要怎麼用49/50做得更好讓更多人買單 01/27 20:49
→ IBIZA : 所有平台的成本 是OpenAi本身的幾十倍吧 01/27 20:49
→ IBIZA : kobebrian你搞錯了 01/27 20:49
推 tai890123 : 對 所以大前提就是 1/50真的能滿足市場需求嗎 01/27 20:49
→ strlen : CSP應該不會受影響 DS開源只會引來更多中小加入 01/27 20:49
→ kobebrian : 如果open ai用這套算法配上頂規鏟子下去算能更滿足 01/27 20:49
→ kobebrian : 客戶 我看不出為啥不做的道理 因為其他大公司肯定 01/27 20:49
→ kobebrian : 也會這麼作 01/27 20:49
→ strlen : 有錢就買GB200 沒錢就直接租 本來想玩的覺得太貴 01/27 20:50
→ tai890123 : 如果能滿足 確實硬體不用往上升了 01/27 20:50
→ tai890123 : 只是目前我覺得遠遠還沒滿足 01/27 20:50
→ IBIZA : openai要進步 是openai這一個非營利組織的任務 01/27 20:50
→ strlen : 現在想玩的更多門檻更低 CSP照收租用的費用 01/27 20:50
→ IBIZA : 微軟則拿openai的成果 做成平台給其他企業使用 01/27 20:50
→ kobebrian : 你不說open ai也沒差 總之市場對gpt 4o的服務可是 01/27 20:50
→ kobebrian : 遠遠沒打到「滿意」 01/27 20:50
→ kobebrian : 也就是剩下的49/50 還有很大的開發空間 這就要有強 01/27 20:51
→ kobebrian : 大的硬體配合這套算法支撐 更何況這套算法並沒有真 01/27 20:51
→ kobebrian : 的這麼「新創」 01/27 20:51
→ IBIZA : 現在 一家中型公司 只要佈設微軟1/50的算力 01/27 20:51
→ IBIZA : 運作使用DS模型 就能提供跟微軟一樣的服務 01/27 20:52
→ IBIZA : 這樣看得懂嗎 01/27 20:52
→ kobebrian : 你還在想只要「這樣」的服務 可以省好多錢 但大公 01/27 20:52
→ kobebrian : 司要的是吃更多的市佔率 而現在有了這套算法 就能 01/27 20:52
→ kobebrian : 用更好的產品去搶市佔 01/27 20:52
→ strlen : 這樣不是一堆本來因為成本不敢進場的公司通通跳進來 01/27 20:52
→ IBIZA : 那就是看市場需要多少算力 01/27 20:52
→ strlen : 那算力需求會變少嗎？嗯？ 01/27 20:52
→ kobebrian : 如果你覺得現在微軟的服務市場滿意的話 當我沒說 01/27 20:53
→ IBIZA : 對 會有一堆中小公司跳進來 01/27 20:53
→ IBIZA : 但之前已經投資的算力 回收期就更慢了 01/27 20:53
→ IBIZA : 而且這些中小公司並不需要佈設跟微軟一樣高的算力 01/27 20:53
推 tai890123 : 對 但微軟就能拿著另外49/50做其他事 01/27 20:53
→ tai890123 : （因為他們也能用這個模型） 01/27 20:53
→ tai890123 : 可是你那家中型公司因為硬體不足 只能做到1/50 01/27 20:53
→ tai890123 : 所以做不到這件事 01/27 20:53
→ tai890123 : 這樣不就被屌打了嗎 01/27 20:53
→ tai890123 : 除非這1/50已經滿足了所有需求 01/27 20:53
→ IBIZA : 他可能採購比較差的GPU就能提供服務了 01/27 20:53
→ kobebrian : 然後我還講到一點 就算是更小的算力也是H100 然後 01/27 20:54
→ kobebrian : 還滿足不了市場需求 然而現在能拿出這等級晶片的公 01/27 20:54
→ kobebrian : 司…也就一家 01/27 20:54
推 gladopo : 砸ai錢的目的不是為了"只是這樣"的服務 01/27 20:54
→ IBIZA : 微軟要拿49/50做甚麼? 01/27 20:54
推 as6633208 : 中國的語言模型的問題就是只能開源，因為中國要收錢 01/27 20:54
→ as6633208 : 根本沒有企業敢用，誰用就是把資料丟給中國政府利用 01/27 20:54
→ as6633208 : ，而這個困境監獄是中國自己蓋的，他們只能開源給別 01/27 20:54
→ as6633208 : 國改良，沒辦法發展自己的，因為沒有使用者 01/27 20:54
→ strlen : 微軟CEO在講的傑文斯悖論 就是在講這件事 01/27 20:54
→ IBIZA : LLM的算力 基本上是需要的人 餵資料 得到結果 01/27 20:55
→ kobebrian : 現在的服務遠遠達不到市場的需求 當年大家覺得能連 01/27 20:55
→ kobebrian : 網的手機就好棒棒了 結果一個哀鳳讓消費者見識到什 01/27 20:55
→ kobebrian : 麼是「符合需求」 更何況現在連最廢的文組都知道AI 01/27 20:55
→ kobebrian : 服務超難用 01/27 20:55
→ IBIZA : 微軟本身是提供平台 他不是餵資料的人 01/27 20:55
→ IBIZA : kobebrian, 算力變高 不會讓AI更聰明... 01/27 20:55
→ strlen : 微軟那個平台怎麼可能沒存資料.............. 01/27 20:56
→ IBIZA : AI的能力是看核心 ChatGPT 3.5 4.0 這個是質的進步 01/27 20:56
→ IBIZA : 但同一個核心算力增加 就是服務更多人而已 01/27 20:56
→ strlen : 要讓AI更聰明 是不是還是要算力......... 01/27 20:56
→ IBIZA : 不會變聰明 01/27 20:56
→ IBIZA : 不是 01/27 20:56
→ IBIZA : 要讓AI更聰明是 OpenAI要開發出下一代模型 01/27 20:57
→ IBIZA : 跟微軟提供多少算力沒關係 01/27 20:57
→ strlen : 算力分兩種 就訓練用跟服務用 都需要阿怎麼不需要 01/27 20:57
→ IBIZA : 微軟的算力又沒拿來訓練新模型 01/27 20:57
→ IBIZA : 微軟的算力是提供客戶算自己的應用的 01/27 20:57
→ IBIZA : OpenAI的算力 才是訓練新LLM模型用的 01/27 20:58
→ IBIZA : 這很難懂嗎 01/27 20:58
推 narotic : 現在有什麼應用是一定要用金鏟子來挖的嗎... 01/27 20:58
→ IBIZA : 微軟的算力 是給你我他訂閱Copilot的人用的 01/27 20:58
→ IBIZA : 除非OpenAi的下一代參考DS 不然DS不會影響OpenAi的 01/27 21:00
→ IBIZA : 下一代訓練要花的時間跟成本 01/27 21:00
→ IBIZA : 但市場上 如果開始使用DS架設LLM伺服器 01/27 21:00
→ IBIZA : 同樣的算力可以算出50倍的結果 01/27 21:00
→ IBIZA : 市場有這麼多算力需求嗎 01/27 21:00
→ IBIZA : 同樣的算力可以服務50倍的算力需求 01/27 21:01
→ IBIZA : DS這個價格 會讓算力需求暴增好幾倍 01/27 21:02
→ IBIZA : 但同樣硬體的算力能力也暴增50倍 01/27 21:02
→ IBIZA : 看得懂嗎 01/27 21:02
→ IBIZA : 現在DS開出的 100萬個tokens input價格是openai的 01/27 21:03
→ IBIZA : 1/100, 可以想像阿貓阿狗都能使用DS 01/27 21:03
→ IBIZA : 應用會大爆發 最起碼成本會降很多 01/27 21:04
→ IBIZA : 但對平台跟晶片來講 爆發的需求是否能抵銷硬體能力 01/27 21:04
→ IBIZA : 暴增50倍? 01/27 21:05
推 g27834618 : 目標是agi 不會想用更好的硬體？ 01/27 21:06
→ IBIZA : 其他AI平台也是一樣 它們成本都跟openai差不多 01/27 21:06
→ IBIZA : 這你要問 誰的目標是agi 01/27 21:06
→ IBIZA : 其實對使用者來講 不會在乎用的是agi或MoE 01/27 21:07
→ IBIZA : 使用者能解決問題就好 你會在意你問的對象是通用智 01/27 21:08
→ IBIZA : 慧 還是為了特定目的開發的特地目的AI? 01/27 21:08
→ IBIZA : 目標AGI, 指的是像是openai這種研發模型的公司的目 01/27 21:09
→ IBIZA : 標 不是市場需要AGI 01/27 21:09
噓 csking811116: 重點是ChatGPT要錢 DS開源免錢效能還比較好 01/27 21:10
→ IBIZA : 先不說 目前的LLM到底是不是走在通往AGI的道路 01/27 21:10
→ csking811116: 我就問免費的香不香 01/27 21:10
→ IBIZA : 就算是好了 短期內 商業使用也沒有AGI甚麼事情 01/27 21:10
→ csking811116: 便宜治百病 才不管甚麼效能只有80% 01/27 21:11
推 j0987 : 推 01/27 21:11
→ IBIZA : AGI其實比較像一個聖杯 01/27 21:12
→ MTKer5566 : 很多人沒當過資方，成本差50倍，不是1萬和50萬的差 01/27 21:14
→ MTKer5566 : 別，是1億和50億的差別，到時候是10億和500億差了4 01/27 21:14
→ MTKer5566 : 90億的成本，大股東絕對幹翻你們這些什麼狗屁首席 01/27 21:14
→ MTKer5566 : 科學家、架構師 01/27 21:14
→ IBIZA : 以微軟來講是800億 美元啊 01/27 21:15
→ IBIZA : 如果真的可以用大約20億美元硬體 提供跟微軟一樣的 01/27 21:16
→ IBIZA : 算力... 01/27 21:16
→ MTKer5566 : 如果是10萬和500萬等級的產品差別，那這個東西沒有 01/27 21:16
→ MTKer5566 : 人行門檻，今天可以把要上百億門檻的產業變成只要1 01/27 21:16
→ MTKer5566 : -2億，這門檻變超低的好嗎 01/27 21:16
→ MTKer5566 : 這會產生化學變化呀，以中國人的狼性，知道原來硬 01/27 21:18
→ MTKer5566 : 體需求那麼低，不卷翻歐美才怪 01/27 21:18
→ IBIZA : 其實我就不知道 AI應用 盤前在殺什麼 不過好像有 01/27 21:18
→ IBIZA : 回來一點了 01/27 21:18
噓 goodideals : AGI都還沒出來說高階沒用會不會太早了 01/27 21:19
推 goodideals : 你對手砸錢往AGI邁進 你不跟砸嗎 01/27 21:23
→ goodideals : 除非啦 你今天用DS 2000顆組成AGI 再來說算力泡沫 01/27 21:24
→ rebel : 我覺得你先搞清楚再來評論 AI的模型就是有個滿足點 01/27 21:25
→ rebel : 過了滿足點更多的算力也不見得結果會更好 甚至某 01/27 21:25
→ rebel : 些情況還更差 現在就是做到這個滿足點的成本大降 01/27 21:25
→ rebel : 不是無限堆算力就有用 01/27 21:25
→ IBIZA : AGI還沒出來 就不關市場的事啊 01/27 21:25
→ IBIZA : 一家公司堆算力是能堆多少? 01/27 21:25
→ IBIZA : 以openai一年的經費80億來看 只有微軟資本支出的 01/27 21:26
→ IBIZA : 1/10, 而且他也不是全部堆資本 01/27 21:26
推 junior020486: 其實為什麼大家都相信DS真的只用1/50的算力啊，他 01/27 21:26
→ junior020486: 公布的數據是真實的嗎？ 01/27 21:26
→ IBIZA : 樓上 但他開出來的訂閱價格確實是openai的1/100左右 01/27 21:27
噓 goodideals : 阿就還沒做出AGI你怎麼知道AGI需要多少算力才夠… 01/27 21:27
→ CYL009 : 問矽谷那群傢伙 他們有意無意也證實 不然幹嘛爆開來 01/27 21:27
→ junior020486: 也不知道他是不是又吃到中國補助打價格戰 01/27 21:27
→ IBIZA : 100萬個tokens的報價 openai是15美元, DS是0.12美元 01/27 21:27
→ IBIZA : @goodideals 你先搞清楚那些算力是在做LLM->AGI 01/27 21:28
→ IBIZA : 那些算力是在做一般商業應用 好嗎? 01/27 21:28
→ rebel : 很多人再說AGI 我不確定市場上已經普遍接受我們現 01/27 21:28
→ rebel : 在就是要做出AGI 依我業內的看法 AGI是長遠目標 但 01/27 21:28
→ rebel : 現在的演算法還做不到 你給他多少算力都一樣 要等 01/27 21:28
→ rebel : 下一次的AI大爆發了 01/27 21:28
→ IBIZA : 用在發展AI模型本身的算力大概是總算力的百分之幾 01/27 21:29
→ junior020486: 如果吃補助打價格戰，感覺就是要反傾銷+更嚴格的晶 01/27 21:29
→ junior020486: 片禁令 01/27 21:29
→ IBIZA : 而已 01/27 21:29
→ IBIZA : @junior020486 DS是開源的 任何公司都可以拿程式碼 01/27 21:29
→ IBIZA : 去訓練自己的AI模型 01/27 21:29
→ IBIZA : 騙不了人 01/27 21:29
推 goodideals : 阿對手砸錢往AGI前進 你要不要跟 不跟你就等著對手 01/27 21:30
→ goodideals : 做出AGI然後通吃市場 01/27 21:30
→ IBIZA : 唉 01/27 21:30
→ IBIZA : 為什麼goodideals永遠聽不懂 01/27 21:30
推 junior020486: 這樣子真的夠戲劇化，七巨頭一夜之間被中國打趴 01/27 21:31
→ junior020486: 我封關買的TSM直接虧爛，好險我有7-8倍的美債凹回 01/27 21:31
→ junior020486: 來 01/27 21:32
推 rebel : 那做不出來呢 公司要砸所有資源去賭嗎 以為公司不 01/27 21:32
→ rebel : 用評估預算可行性嗎 01/27 21:32
→ IBIZA : @goodisdeals 你要理解 市場上有些公司是做AI模型 01/27 21:33
推 AirLee : 這代表資本額比較小的公司也能加入開發的行列了啊 01/27 21:33
→ AirLee : ，鏟子還是有生意。 01/27 21:33
→ IBIZA : 有些是做平台的 01/27 21:34
推 junior020486: 不過台積先進製程最大客戶還是蘋果，大不了資本支 01/27 21:35
→ junior020486: 出不要擴那麼快 01/27 21:35
→ IBIZA : 做AI模型的公司 才有你所謂砸錢往AGI前進的問題 但 01/27 21:35
→ junior020486: 不過算力成本降那麼多，真的一堆小公司也可以進來 01/27 21:35
→ junior020486: 萬 01/27 21:35
→ IBIZA : 這些公司的支出只有整個AI市場的零頭 01/27 21:35
推 rebel : 我就問你 AI早就在199x年擊敗西洋棋冠軍 為什麼20 01/27 21:36
→ rebel : 年後才擊敗圍棋 是這中間算力不夠嗎？不是 是演算 01/27 21:36
→ rebel : 法不對 不對的演算法給多少算力都沒用 辦不到就是 01/27 21:36
→ rebel : 辦不到 01/27 21:36
→ junior020486: 這樣川普那個stargate不知道還搞不搞 01/27 21:36
→ IBIZA : AI市場目前絕大部分的資本投資 是佈設平台給一般人 01/27 21:36
→ IBIZA : 做商業使用 01/27 21:37
→ rebel : 如果AGI是現有的演算法做不到的 你堆多少算力也都 01/27 21:37
→ rebel : 沒用 01/27 21:37
推 AirLee : 以後的機器人無人機也還是需要晶片啊，TSM還是能撿 01/27 21:37
噓 kasimroll : 支那網軍開始進攻嘍 01/27 21:37
→ junior020486: 可以99TSM嗎 01/27 21:38
→ AirLee : 過往程式語言的效率增加 硬體的需求還是越來越高 01/27 21:39
→ AirLee : 硬體還是存在著前景 01/27 21:39
→ AirLee : 還有子彈的 慢慢接接TSM就對了 01/27 21:39
→ IBIZA : 過往因為硬體效能增加快 程式語言其實不太講究效率 01/27 21:40
→ IBIZA : 但這一次是軟體效率突然增加50倍 01/27 21:40
推 rebel : 軟體還是很講求效率啦...我們做code review不是做 01/27 21:45
→ rebel : 假的 01/27 21:45
→ IBIZA : 現在寫程式哪需要像以前要把512K 1M榨乾.. 01/27 21:47
→ antigidu : 中國用低廉的成本 卷爆歐美AI泡沫 01/27 22:07
→ strlen : 微軟哪來的沒有自己訓練AI............. 01/27 22:22
→ strlen : 然後另一個問題是 現在這種等級的AI 到底有沒有解決 01/27 22:23
→ strlen : 使用者問題 使用者不管哪種架構是沒錯 但你AI有沒有 01/27 22:23
→ strlen : 真正解決使用者痛點 目前看起來 很早得很 01/27 22:23
→ strlen : 就算我現在直接拿來當生產力工具 也只覺得堪用而已 01/27 22:24
→ strlen : 更何況各行各業 看單單一個客服AI 現在的就沒辦法了 01/27 22:24
→ strlen : 不然現在9成企業早就把客服通通換成AI 為何沒發生？ 01/27 22:25
→ strlen : 這樣的AI 真的夠了嗎？自己好好想想吧 01/27 22:25
→ kobebrian : 你確定大公司不會或沒有在做自己的模型嗎？ 01/27 22:51
推 ksjr : 我是覺得硬體/其他研發的支出比例會改變拉 01/27 23:06
推 c41231717 : DS這個算是AI的福特時刻啊 以前車子很貴 當變成家 01/27 23:50
→ c41231717 : 家都能負擔得起的時候 反而市場變更大了 車廠每個 01/27 23:50
→ c41231717 : 都賺錢 且出現更多車廠 01/27 23:50
推 ProTrader : 我覺得外行人對AI有些誤解 我用無線電話類比 01/28 00:11
→ ProTrader : 早年有巨無霸黑金剛無線電話在市場交易 01/28 00:12
→ ProTrader : 有間廠商把巨無霸黑金剛的成本降成1/50會獨霸市場?? 01/28 00:13
→ ProTrader : 答案是被智障型手機霸主Nokia3310淘汰出局 01/28 00:14
→ ProTrader : 有間廠商把智障型手機的成本降成1/500會獨霸市場?? 01/28 00:15
→ ProTrader : 答案是被蘋果的智慧型手機淘汰 01/28 00:16
→ ProTrader : 回到AI DS的成本是現有產品1/50能獨霸市場?? 01/28 00:17
→ ProTrader : 答案是會被下一代的AI模型淘汰 01/28 00:17
→ ProTrader : 我認為覺得未來還會有更好更完備的AI模型問世 01/28 00:19
→ ProTrader : 現在的AI模型終究會被淘汰 01/28 00:19
→ ProTrader : DS作的事情稱為演算法優化 這是資工人的基本工作 01/28 00:20
→ ProTrader : 不需要因為政治立場否認DS的成果 01/28 00:22
→ ProTrader : 有某個好模型資工人本來就會努力去開發快速演算法 01/28 00:23
推 a10043305 : 天花板都還沒看到就在想cost down 台灣人終究只能是 01/28 00:23
→ a10043305 : 台灣人 01/28 00:23
→ ProTrader : 但未來一但有更好的AI模型 現有演算法就會自動淘汰 01/28 00:24
→ Sinkirou : 我寧願相信狗吃屎也不相信中共 01/28 00:31
→ redskyism : 這是一個簡單數學問題，不用講這麼多。一台電腦就能 01/28 00:35
→ redskyism : 跑幹嘛買十台，硬體供應商慘了！ 01/28 00:35
→ cosplayH : 很急哦 01/28 00:59
→ straggler7 : 不是所有人都追求0百加速 01/28 06:16