看板 Stock 關於我們 聯絡資訊
※ 引述《hayuyang (鳳山蠹)》之銘言: : 我有點好奇 : 電動車 太陽能 小米 現在ai 都是捲到白菜價錢 : 然後背後不少是國家戰略 補貼 : 看過美國玩開源模型就知道 這是要養套殺的 : android開源 但後續更新 你就要跟上 : 開源免費的目的從來就是要打擊對手跟壟斷 祖克柏也愛搞這招 : 中國會不知道? : 用國家資本的力量 無限補貼產業 然後跟西方資本公司對做 : 假如中國贏了全拿 會發生什麼事情 : 我很好奇 : --- 開源不代表完全免費, 開源只代表模型本身跟Android OS本身是免費, 但是Android 手機不是免費送你, 你還是要付錢買硬體的錢, 同樣道理, 開源模型不表示跑Kimi DeepSeek 就免費, 你還是要付token的錢, 支付在伺服器上跑的水電費以及硬體成本 所以中國用開源模型理論上會比美國封閉模型便宜, 因為省了模型的錢, 只需要支付水電跟硬體成本, 但是現在OpenAI殺紅眼降價賣token, 中國開源模型就沒有成本跟價格優勢, 不過除了OpenAI 這個特例, 的確美國的模型在成本上吃虧 至於說中國贏了全拿 這件事很難說, 或許在開源模型是這樣, 但是遇到硬體條件限制與ecosystem 這些因素, 就很難說, 這樣說好了, Kimi 模型免費, 但是一般人甚至一般企業玩不起, 這是官方說的硬體規格: 官方與專業建議:至少 64 個高階 AI 加速器(如 NVIDIA H100 / GB200 / B200 叢集) ,以支援超長上下文與混合專家(MoE)架構。 記憶體與頻寬:以 2.8 兆參數的 Kimi K3 為例,原始模型權重在 FP8 精度下約需 1.4 TB 記憶體,並高度依賴高頻寬記憶體(HBM)與高速互連網路。 目前所有的開源模型, 大部分都無法在一般人跟一般公司裡頭跑, 一樣只能用API token呼叫遠端伺服器, 所以用起來跟另外一個ChatGPT Claude API 呼叫幾乎一樣, 所以這很難說中國能夠全拿, API換個名字就好 以我自己為例, 我這三四個月自己做的AI短劇廢片, 一樣的代碼, 只是換了API呼叫名字, 換了五六種模型, 用了gemini, kling, qwen, gemma, 混元,翰宇, flux, zimage, 完全沒有忠誠度可言, 便宜CP值高, 好用, 我馬上就換 我的感想是, 模型要能夠在一般人一般企業的機器裡頭跑, CP值高, 省電, 速度夠快, 而不是單純的追求跑分, 因為那些最高跑分的模型, 我們一般人機器跑不動 然後這是開源模型排名: https://onyx.app/open-llm-leaderboard 那些需要1TB 記憶體, GB200機器的模型, 其實我是覺得不用考慮, 這裡頭真正有競爭力的是qwen and gemma, 31B-36B, 大致需要30-40GB記憶體, 這大小的模型才是有可能普及到所有的機器人, 自駕車,手機電腦等地方, 這個開源模型才是真正有機會贏者全拿的模型 雖然裡頭排名qwen 比gemma高, 但是我自己使用經驗是gemma 比 qwen 強, 我原本小黃書用qwen 搭配 zimage, 現在小黃書改用gemma 搭配 flux -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.225.6 (美國) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1785486302.A.B94.html ※ 編輯: waitrop (76.103.225.6 美國), 07/31/2026 16:25:46
ninnyshadow : 但是現在大VRAM顯卡不好買QQ 07/31 16:31
pikachu123 : 普通人用api就好 自己跑是嫌錢太多逆 07/31 16:41
chysh : kimi也不是所謂開源,而是開放權重,一堆人搞不懂 07/31 16:44
HiuAnOP : 小黃書得第一 07/31 16:49
andy79323 : 本地串兩張顯卡一樣只跑得動100b以下的 07/31 16:49
andy79323 : 省硬體成本直接買api最划算 07/31 16:49
我的重點是在回覆"中國贏了全拿" 這件事, 如果買api, 沒有贏了全拿這件事, 換個api名字就馬上跳槽, 完全沒有黏著力跟忠誠度, 除非你是本地端部署的LLM在機器人,眼鏡,手機,電腦等, 那就很難說換就換
salamender : 幾個月前gemini也降價,然後就是被降智 07/31 16:49
stlinman : gemma快起來真的很好用! qwen感覺未來慢慢走向閉源? 07/31 16:49
stlinman : 小黃書是什麼? 07/31 16:50
※ 編輯: waitrop (76.103.225.6 美國), 07/31/2026 16:56:49
doggystyle : 硬體真的是剛需 對一般人來說 MODEL真的不必那麼強 07/31 17:09
seemoon2000 : 我前幾天才在討論說 開源模型最終一定是要能夠量化 07/31 17:26
seemoon2000 : 到大家能裝在一般家用 code能力不用非常強 但核心 07/31 17:26
seemoon2000 : 是agentic的能力 一般99%企業裝不了kimik3那種尺寸 07/31 17:26
seemoon2000 : 硬體不算 還有租地方放機櫃還要散熱、電費等等成本 07/31 17:26
seemoon2000 : 真的要用大量的高階推理 call api才是正解 你要把 07/31 17:28
seemoon2000 : 資料留在本地就是中間夾一個本地開源模型把資訊去 07/31 17:28
seemoon2000 : 識別化 絕對不是先選擇去建一個可以放幾T的運算硬 07/31 17:28
asahi98 : 高分也是需求之一,總不能做出來的東西缺東缺西吧! 07/31 18:00
andy79323 : 邊緣運算某些場合還是可以混用本地或api 07/31 18:05
andy79323 : 達到目的,也沒完全限制在什麼模型使用, 07/31 18:05
andy79323 : 限制還是在硬體 07/31 18:05
atelier : qwen在gemma修正前 寫code比較穩一些 改版後不知 07/31 18:27