看板 Gossiping 關於我們 聯絡資訊
※ 引述《sxy67230 (charlesgg)》之銘言: : 有沒有DeepSeek V4屌爆的拔掛啊? 我這兩天在想要怎麼講 DeepSeek V4 對於中國的意義與價值, 但實際上,這個進展,不只是 DeepSeek,還包括華為、Kimi DeepSeek: 1.V4 用 FP8+FP4(MoE) 訓練 2.CSV + HBA 暴力壓縮 KV Cache 耗用 3.降低每次啟動參數量 4.MoE 的通訊與計算切更細,改寫算子,做到精度對齊, 在 NV 及華為上可跑出相同的數學結果 達到 unbinding CUDA,並使內文視窗可達到 1M tokens 以上,在為以下鋪路 華為: 1.CANN 在 DeepSeek 的支持下有了代表實績可以對抗 CUDA 所以,只需要用華為 950PR 的 NPU(推理用),就能滿足用戶使用,因此 2.950PR 從四月開始到明年,會是 NV 以外,最搶手的中國 LLM 產品. DeepSeek 破壞性價格,也源自於推理使用時的硬體成本降低(不需 H200 或更高). Kimi: 1.Prefill-as-a-Service 在 DeepSeek,已經對 KV Cache 的節省做暴力的降低時, Kimi 做到 KV Cache 的 Prefill 與 Decode 的 Decoupling, 可以讓 Prefill(高算需求) 與 Decode(快速反應)跨節點、跨機房甚至跨地區傳輸, 不再必備 400G 以上的 RDMA,在 100G 的乙太網路,就可運作. (實測在 20G 以內即可滿足基本使用需求) 並透過切分快取類型 prefix 與 transfer,再提高 cache 利用率及降低頻寬耗用. 在美系 O、G、A、M 全陷入 GPU 缺, token 費用開始暴漲,跟 N 家內鬨混戰的時候, 中系廠商用 做黑手 的硬幹方式,繼續向其他人展現不輕易向國際土匪低頭的韌性 (~誤 --
error405: 別變戰略武器的話都很好 114.36.240.115 04/30 05:01
zelkova: 美國用AI當作戰略武器時就不見有些人放屁 207.161.49.22 04/30 05:14
zelkova: 笑死 207.161.49.22 04/30 05:14
ilyj2012: 好專業! 172.59.215.32 04/30 05:22
splendidpoem: 這就是之前巨頭們反對封鎖中國的原111.249.216.237 04/30 05:23
splendidpoem: 因:對中國實施硬體封鎖,讓他們無111.249.216.237 04/30 05:23
splendidpoem: 法跟美系巨頭一起燒錢打軍備競賽,111.249.216.237 04/30 05:24
splendidpoem: 反而逼迫他們走向了降本增效的另一111.249.216.237 04/30 05:24
splendidpoem: 條路。111.249.216.237 04/30 05:24
Borey: 推+1樓上 114.25.183.236 04/30 05:29
adems77: 太專業了~ 39.14.176.186 04/30 05:29
yoluyolu: 就我覺得 看問題來問歐美人還是華人 回223.137.149.127 04/30 05:33
yoluyolu: 答角度可能都會不同 而AI確實也不用怕223.137.149.127 04/30 05:33
yoluyolu: 卷 有市場區隔就可以 但是如果連基本功223.137.149.127 04/30 05:33
yoluyolu: 能都要收錢 那當然會被卷爆223.137.149.127 04/30 05:33
iLeyaSin365: 太棒了 111.82.60.245 04/30 05:41
hensel: 講的好像繼續賣Nvidia晶片 華為就不會自 36.230.57.230 04/30 06:04
hensel: 己搞一樣 你什麼賺錢 最終都給卷 36.230.57.230 04/30 06:04
sheep2009: 2026還在ds 125.228.52.242 04/30 06:30
overno: 我看東森關鍵時刻說deepseek要崩了 116.241.16.119 04/30 07:42
andy79323: 2026還在反ds223.141.223.151 04/30 07:58
t00012: 台灣:點麵線2.0國家隊 49.217.57.252 04/30 08:11
finhisky: 大家都知道遲早會死 不過正常人不會想提125.227.172.115 04/30 08:18
finhisky: 早自殺125.227.172.115 04/30 08:18
Sam27: 去年開始全力封殺後沒戲了... 36.232.87.229 04/30 08:30
Sam27: 你要給一般用戶還可以拉,toB就沒人要用 36.232.87.229 04/30 08:32
Sam27: 企業要得穩安全好用,價錢現在都在搶 36.232.87.229 04/30 08:32
Sam27: 但還是佩服祖國的韌性... 36.232.87.229 04/30 08:33
JASONGOAHEAD: 就跟當初日韓貿易戰日本拒賣高階晶 114.36.106.117 04/30 08:53
JASONGOAHEAD: 片用耗材一樣的劇本 人家自己搞了 114.36.106.117 04/30 08:54
※ 編輯: freeunixer (60.250.90.238 臺灣), 04/30/2026 09:18:36
phantaci: 我們有台積電 111.249.219.94 04/30 09:24
tsairay: 阿共就算沒老美那麼強,但舉凡有個7成功力 202.39.11.150 04/30 09:43
tsairay: 加上阿共數大就是美,是有一戰之力 202.39.11.150 04/30 09:43
MintTW: 早拉完了吧 111.71.215.37 04/30 09:57
MintTW: 除了中國誰用? 111.71.215.37 04/30 09:57
LOGIC5566: 便宜治百病 111.83.181.48 04/30 11:10