看板 Gossiping 關於我們 聯絡資訊
網頁版ai一堆限制 想在windows上用自己顯卡跑 能跑得動ds3嗎 還是需要插好幾張rtx 4090才可以跑 不是那種接api的 直接用python跑需要怎樣的硬體才夠? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.171.147.101 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1738031284.A.9B0.html
xzcb2008: 3080跑不動70b的 111.82.245.33 01/28 10:28
a655088: 你不要裝太大模型就好 49.216.161.169 01/28 10:28
xzcb2008: 幹很吃硬體坦白說 111.82.245.33 01/28 10:29
a655088: 2b一定跑的動 49.216.161.169 01/28 10:29
u9596g12: 不要裝太大模型就好 有教學 218.35.130.171 01/28 10:29
sm905202: 離線也有限制,除非你自己在練它223.137.206.159 01/28 10:29
E6300: 1/30去原價屋排隊買5090吧 1.172.238.153 01/28 10:29
jeff0811: 7b的8gvram能跑的樣子,但是好像沒那麼 101.9.102.19 01/28 10:34
jeff0811: 神 101.9.102.19 01/28 10:34
chocoball: 好色哦 2b 36.239.176.94 01/28 10:34
jeff0811: 有看到某零度部署了,用起來像gpt ,不 101.9.102.19 01/28 10:35
jeff0811: 過我覺得grok最近不錯 101.9.102.19 01/28 10:35
zelkova: 用4090去改48gbㄅ 1.161.45.195 01/28 10:41
erisiss0: 隨便跑 122.100.112.57 01/28 10:51
erisiss0: 模型裝7b就好,要是白癡白癡的裝大模 122.100.112.57 01/28 10:52