→ tetani: 不考慮等project digits?128ram111.255.254.79 01/08 01:43
→ tetani: 約10萬台幣 除了不能玩game 但超划算111.255.254.79 01/08 01:43
※ 編輯: baby14789 (220.133.25.19 臺灣), 01/08/2025 01:44:13
→ baby14789: 想等 但最近就有需求 想說先買這樣 220.133.25.19 01/08 01:47
→ baby14789: 來用 或是應該考慮m4 mini clister的 220.133.25.19 01/08 01:47
→ baby14789: 方法呢? 220.133.25.19 01/08 01:47
推 tetani: 短期方案 就是先使用付費api 111.255.254.79 01/08 01:52
→ tetani: 至少事後不用處理那兩張不上不下的顯卡 111.255.254.79 01/08 01:52
推 Ceelo: 你有這預算怎麼不上5090 42.73.171.1 01/08 02:12
推 pcfox: 5090 +1 36.231.71.131 01/08 02:41
推 waterkim: 9950x? 39.10.24.174 01/08 02:56
推 RaiGend0519: 5090 x 2如何? 36.233.211.3 01/08 03:03
推 CGary: 買m4 pro加到64g記憶體 mac跑得贏 111.241.179.80 01/08 05:55
→ CGary: 60的卡 再等NV那方案上了再換 111.241.179.80 01/08 05:55
→ Zenryaku: 兩張4060ti有一張5090/5080強嗎 220.136.75.133 01/08 06:56
推 ABA0525: 差沒幾天,5090 220.132.95.162 01/08 07:15
推 Transposon: 5090剛上,環境完全支援要等不知道多 118.171.220.97 01/08 07:27
→ Transposon: 久,有急用勿選 118.171.220.97 01/08 07:27
推 kamir: 4060ti 16G要先問問有沒有貨哦 180.177.142.2 01/08 07:54
推 xephon: 5090 x 2 49.216.22.67 01/08 08:27
→ idiotyun: 40系列也可以 SLi ? 114.38.63.166 01/08 09:31
→ KY1998: 皮衣黃只會跟你說用5090,而且很划算 61.219.99.27 01/08 10:18
推 sxing6326: 靠PCIE互聯很慢喔 42.77.153.0 01/08 10:22
→ YukilinnMigu: 不如兩張3090 42.77.169.197 01/08 10:22
推 GORDON2037: 可以串兩張這樣用? 49.218.88.99 01/08 10:34
推 CGary: 不需要SLI 他想跑兩個單獨的llm 各 111.241.179.80 01/08 10:57
→ CGary: 自指定卡跑就可以了 111.241.179.80 01/08 10:57
→ ninggo: 我會建議先租google lab等nv的project d 39.12.128.240 01/08 12:40
推 annboy: 建議不要 VRAM小能跑的模型太侷限了 42.79.0.175 01/08 15:38
推 opengl22: 如果是inference 的token generation速 36.229.69.238 01/08 18:20
→ opengl22: 度主要取決於memory bandwidth, 4060 t 36.229.69.238 01/08 18:20
→ opengl22: i太低了 一般便宜作法都是用雙3090 36.229.69.238 01/08 18:20
→ opengl22: 如果只是要做推理 不訓練的話,Mac 是 36.229.69.238 01/08 18:22
→ opengl22: 很好的選擇,10萬可以到m1 ultra了 800 36.229.69.238 01/08 18:22
→ opengl22: GB/s memory bandwidth, ram又是unifie 36.229.69.238 01/08 18:22
→ opengl22: d 架構 36.229.69.238 01/08 18:22
→ cutejojocat: 4060ti 16g只有vram大 等5070ti一張 111.241.227.65 01/08 23:27
→ cutejojocat: 排程下去跑 總時間不會比較長 111.241.227.65 01/08 23:27
推 fukku100: 好奇你想跑什麼模型? 開源7B以內的真 203.204.16.137 01/09 07:58
→ fukku100: 能夠在production 用? 203.204.16.137 01/09 07:58