推 a71245969: train defussion model以現有的開源,4 49.216.91.28 01/03 23:09
→ a71245969: 8g vram 以上比較夠用 49.216.91.28 01/03 23:09
→ Zenryaku: 電源拿cybercore ii 或hydro PTM x pro 114.36.56.86 01/04 00:06
→ Zenryaku: 主板記憶體可以拿組合,原價屋聚寶盆X87 114.36.56.86 01/04 00:10
→ Zenryaku: 0E+金士頓64g+360水冷$29426,或欣亞抗 114.36.56.86 01/04 00:10
→ Zenryaku: 漲專案X870E+金士頓64G$26990 114.36.56.86 01/04 00:10
→ Zenryaku: 買起來比較便宜主板還升級 114.36.56.86 01/04 00:10
推 Supasizeit: 訓練真的大模型還是要Mac studio吧203.204.195.174 01/04 01:30
推 lordmi: 這預算就studio了,有unified memory 36.229.98.47 01/04 01:38
→ jkiu: 雖然不建議花大錢玩local model,但你這預 36.224.139.33 01/04 02:27
→ jkiu: 算要玩tuning 應該可以看看老黃那台dgx了, 36.224.139.33 01/04 02:27
→ jkiu: 純推論生圖的話Mac studio 36.224.139.33 01/04 02:27
→ cutejojocat: 水冷如果是單拿的話看要不要考慮改 36.229.195.252 01/04 02:33
→ cutejojocat: 風冷就好 PS120這類好點的雙塔或是 36.229.195.252 01/04 02:33
→ cutejojocat: 啟動選擇更多 36.229.195.252 01/04 02:33
→ hitoribokki: 感謝上面貼文的推薦!多數推薦已經替 36.234.176.114 01/04 03:27
→ hitoribokki: 換到菜單裡了,MAC應該還不會碰,不 36.234.176.114 01/04 03:27
→ hitoribokki: 過DGX這個我認真研究一下... 36.234.176.114 01/04 03:27
推 saito2190: DGX那個一台128GB RAM 1TB的十萬左右 1.161.161.155 01/04 06:56
→ saito2190: 雖然推論不是很強,但RAM就是量大管飽 1.161.161.155 01/04 06:56
→ saito2190: 至少跑得動 1.161.161.155 01/04 06:56
推 scmono: 降級省下來會更好 雲端租B200 一小時 101.12.101.97 01/04 07:31
→ scmono: 只要1美金 租5090 更便宜 直接給你電費價 101.12.101.97 01/04 07:32
推 jeff85898: 訓練租機器 local端保留足夠推論的性能 39.15.16.184 01/04 08:43
→ jeff85898: 就好會比較省 39.15.16.184 01/04 08:43
推 Supasizeit: 不過他聽起來只是想玩玩 QLora 搞個3203.204.195.174 01/04 10:10
→ Supasizeit: b模型是沒問題啦203.204.195.174 01/04 10:10
推 theevilM: 單純玩玩就要花165K也太豪啦 103.139.104.3 01/04 20:07
推 Supasizeit: 看到這張版子就氣 WiFi 會掉不說 pci203.204.195.174 01/04 20:33
→ Supasizeit: e 第二槽只有pcie 3*1 第三槽只有1 s203.204.195.174 01/04 20:33
→ Supasizeit: lot 結果插第二張顯卡跟電子垃圾沒兩203.204.195.174 01/04 20:33
→ Supasizeit: 樣203.204.195.174 01/04 20:33
→ Supasizeit: 什麼白癡設計203.204.195.174 01/04 20:33
→ jkiu: pcie插槽問題是消費級CPU的問題,天生就跟 36.224.139.33 01/04 21:09
→ jkiu: 很少2x條,各種io都要分來用,你如果要找兩 36.224.139.33 01/04 21:09
→ jkiu: 張顯卡以上的,要去看伺服器級的cpu那種有 36.224.139.33 01/04 21:09
→ jkiu: 上百條給你用 36.224.139.33 01/04 21:09
推 YCL13: 一般消費級MB設計插雙顯卡的多是X16對切 59.115.167.238 01/04 21:32
推 theevilM: 施主希望兩張都跑X16的話要找伺服器或TR 103.139.104.3 01/04 22:33
→ theevilM: 系列的比較好...但老實說不怎麼划算啊 103.139.104.3 01/04 22:33
推 Supasizeit: 我只要第三槽x4 換成第二槽而已203.204.195.174 01/04 23:03
推 Supasizeit: 共碩的B850就可以了203.204.195.174 01/04 23:07
推 k18535318: 我自己16gb跑7B模型就玩的很開心了 39.10.41.71 01/04 23:27
→ k18535318: 現在有愈來愈多又小又強模型可以玩 32 39.10.41.71 01/04 23:27
→ k18535318: G超夠用 39.10.41.71 01/04 23:27
→ ninggo: 租雲端顯卡會不會比較省 39.14.73.110 01/05 00:12
推 windyyw: ram 128g 133.18.43.46 01/05 02:09
→ jjjj222: mac studio m4 128G 才12萬而已 123.193.198.55 01/05 14:49