看板 Gossiping 關於我們 聯絡資訊
想請教 架設本地ai主機 同樣的硬體規格,用win和ubuntu 在跑「記憶體滿載」的模型時,能處理的規模 真的有「明顯」的差距嗎? 還是其實根本沒什麼差? 因為用linux架,真的有些麻煩 所以有點想乾脆之後用win就好了… -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.136.251.94 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1776515903.A.627.html
kissmickey: 其實拿十年前電腦也可以跑啦 123.192.80.187 04/18 20:41
kissmickey: 速度慢了點 你吃完泡麵才可能跑出結果 123.192.80.187 04/18 20:41
zeumax: 差很微小,Win會多吃1Gb rax,但Linux對 39.10.72.92 04/18 20:42
zeumax: 顯卡支援其實沒有Win好,一來一往沒差別 39.10.72.92 04/18 20:42
zeumax: 會有差是你有特規去調,你自用簡單點 39.10.72.92 04/18 20:43
zeumax: 輝達是不打算去支援Linux系調校的,除非你 39.10.72.92 04/18 20:45
zeumax: 技術力夠,而且靠這吃飯,不然別浪費時間 39.10.72.92 04/18 20:45
kissmickey: 一些延伸的東西win還是差了些 123.192.80.187 04/18 20:45
pennyleo: Zeu,所以是不是如果類似主板和顯卡記 114.136.251.94 04/18 20:45
pennyleo: 憶體共用的那種主機,只要記憶體夠大, 114.136.251.94 04/18 20:45
pennyleo: Linux的優勢就消失了,是嗎 114.136.251.94 04/18 20:45
tetani: 個人用戶只能選小一點的模型 61.227.193.121 04/18 20:46
froce: AI吃滿的是顯存吧?除非你用核顯。 61.224.167.247 04/18 20:47
froce: 然後Linux可以用console模式部署, 61.224.167.247 04/18 20:47
froce: 理論上是可以省GUI佔用的顯存 61.224.167.247 04/18 20:47
freeunixer: 搞那麼久結論是你不配搞 ai,玩沙去吧 60.250.90.238 04/18 20:50
freeunixer: 錢砸下去,買台 128g ram,1t ssd 的MAC 60.250.90.238 04/18 20:51
poqwiuer: 乖乖用Mac Studio 42.72.245.208 04/18 20:53
zeumax: 你是個人電腦改工作站,就WSL2最方便部署 39.10.72.92 04/18 20:54
zeumax: 理論上夠大優勢消失有點不太準確,因為你 39.10.72.92 04/18 20:55
zeumax: 夠大搞伺服器的話,業界Ai伺服器多是Linux 39.10.72.92 04/18 20:55
zeumax: 39.10.72.92 04/18 20:55
johnhmj: 怎麼問谷哥欸哎都是回答用Linux ? 49.216.93.140 04/18 20:55
tetani: 128g的mac其實還是不夠 至少250g以上 61.227.193.121 04/18 20:56
kimi112136: linux對顯卡支援度沒有win好?認真?111.250.210.231 04/18 21:15
freeunixer: linux 的 nv driver 跟垃圾一樣啊 60.250.90.238 04/18 21:43
reallurker: 看你要跑甚麼領域 RAM先插滿 散熱要好 118.165.68.230 04/18 21:45
reallurker: 實驗用數據還是要工作站 118.165.68.230 04/18 21:46
reallurker: 單兵個人平台戰力很有限 不要想太美好 118.165.68.230 04/18 21:46
applejone: 跑參數多的很慢,跑參數少的很笨,上 118.231.193.83 04/18 21:47
applejone: 下文窗口超吃記憶體,沒有幾百萬不要 118.231.193.83 04/18 21:47
applejone: 玩 118.231.193.83 04/18 21:47
kingstongyu: 所以AI的程式碼哪來的?! 1.168.139.146 04/18 22:16
kingstongyu: 直接以做成硬體的方式進行學習及算出 1.168.139.146 04/18 22:18
kingstongyu: 回答的回應?! 1.168.139.146 04/18 22:18