[請益] AI推理快取 SSD or RAM

[AOrigin (AOrigin)]

目前在嘗試在本機跑Q2量化的R1(671B)
目前的環境
4090 * 1  24G
DDR5-6800 96G

雖然能夠執行
但是需要大量的分頁檔案
很擔心這樣會不會導致系統碟提早升天

現在在猶豫怎麼做
1.再加裝 48G * 2
目前安裝的是 T-Create 的 48G * 2
還有兩槽可以插 不過好像買不到了
而且頂天就是192G 不知道夠不夠用

2.買一顆SSD當快取用
反正就是拿來當分頁操的
買一顆PCIE5的便宜SSD
耐用度就不管了
就是CP值問題 還有就是TLC/QLC有沒有差

我是小孩 必須做選擇QQ
先感謝各位先進了

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 2.58.241.71 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1739816513.A.D9E.html
推 RaiGend0519: 統計每日寫入量，然後找系統碟的TBW
→ RaiGend0519: 就能知道選一或選二了
→ wahaha99: Intel optane 供參
噓 lsd25968: 預算
→ promaster: 缺RAM就用epyc平台RDIMM加到512GB
→ spfy: 沒有預算沒辦法討論CP值
→ lordmi: 通通丟到RAM去，預算不夠不就是這樣
推 ucram4ni: 1、現在D5還不確定插滿能不能用吧?
→ ucram4ni: 2、最便宜GEN5應該是威剛970PRO給參考
推 kme6833291: 建議還是加裝ram
推 yymeow: 問就是optane
推 afacebook: D5可以查滿，降速就好
→ afacebook: 你想用便宜的，就不要考慮速度
→ afacebook: 記憶體速度別在意了
→ cutejojocat: gen5價格能用的真的不如optane
推 shhs1000246: 去買群聯方案啊