[菜單] 130K AI工作機

[tod ()]

已買/未買/已付訂金（元）：部分已買

預算/用途：工作 (運行local LLM)

CPU (中央處理器)：AMD 9950X
MB      (主機板)：TUF GAMING B650M-PLUS WIFI
RAM     (記憶體)：Kingston 金士頓 FURY Beast DDR5 6000MT/s 64GB（2x32GB）黑
VGA     (顯示卡)：PNY RTX 5090 ARGB OC 32GB Triple Fan
Cooler  (散熱器)：Noctua 貓頭鷹 Noctua NH-D15
SSD   (固態硬碟)：Crucial 美光 T500 2TB M.2 2280 PCIe 4.0 SSD
HDD       (硬碟)：N/A
PSU (電源供應器)：ROG LOKI SFX-L 1000W
CHASSIS   (機殼)：LIAN LI 聯力 A3-MATX
MONITOR   (螢幕)：自備
Mouse/KB  (鼠鍵)：自備
OS    (作業系統)：Win 11另購

其它      (自填)：
總價 (未稅/含稅)：120K~130K左右

這台打算用來取代Macbook M4 Pro來作為主力工作機, 工作上會用到一些Local LLM推論
本來想等DGX Spark, 但那記憶體頻寬看上去不太行, 想想還是直上5090 (至不濟也能打game?)
希望Lian Li這個殼能夠順利運行這組5090的配置

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 126.35.17.123 (日本)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1754923911.A.4F0.html
推 Supasizeit: 其實oss-20b 根本用不了多少VRAM跟算
→ Supasizeit: 力，然後5090也跑不動120b
→ yskbkwh: 想像了一下 母湯
推 jkiu: 32GB老實說還是不夠，context size 也要考慮
→ jkiu: 一下，spark或amd那個395感覺都比較有可用性
→ jkiu: ，不過如果不論資料隱私單純考慮經濟性的話
→ jkiu: ，買api來用最划算
→ yskbkwh: 不建議用這種殼折磨你的高階硬體
→ Zenryaku: 這種配備請拿一個又大散熱又好的機殼給
→ Zenryaku: 他們好嗎
→ Zenryaku: 記憶體不用拿超頻條
推 EnosKP: 貓有機會頂側板 太一敗了
推 jhjhs33504: 120b可以簡單的用CPU跑RAM不夠就開大
→ jhjhs33504: 虛擬記憶體來補只是沒有足夠VRAM的話
→ jhjhs33504: GPU能加速的有限
推 jhjhs33504: 不然就用隔壁的統一記憶體架構conte
→ jhjhs33504: xt size 大的話也需要佔用swap
推 jhjhs33504: 提示詞調好一般使用情境的確很像min
→ jhjhs33504: i版的ChatGPT model
推 jhjhs33504: 只是不曉得AMD跟5090的運算品質哪個
→ jhjhs33504: 好？
→ cutejojocat: 120b組到64單跑還可以 穩定建議96g
→ cutejojocat:  顯卡跑20b就差不多了 塔散沒必要選
→ cutejojocat: 貓
推 Supasizeit: 120b在那邊資料搬來搬去太慢了啦
→ Supasizeit: 那是設計給你四張5090用的
→ linzero: 機殼跟塔扇都是165mm，這種是要預留多少
→ linzero: 空間較合適？
推 lordmi: 395+的市場定位一直很怪，只有學校上ai課
→ lordmi: 這種樣樣通樣樣鬆的情境才會好用，商用預
→ lordmi: 算往上加有更好用的Mac studio