[閒聊] 玩AI繪圖後發現自己設備有夠廢

[e04su3no (鋼鐵毛毛蟲)]

去年年中全球啟動的
9800X3D+5070TI帝+32GB
想說這設備很頂打遊戲很夠用了
結果玩幾款後就電子陽痿
想說不要浪費顯卡的錢來跑comfyui
沒想到跑圖研究prompt和lora組合比遊戲好玩多
SDXL模型直出一張不用10秒還很輕鬆但是太笨
qwen能聽懂自然語言還能用中文提示詞，甚至正確的生成中文
但是動輒超過20g的vram需求
就算是fp8版本也在16g vram左右
不夠的部分只能用ram補
當初ram又沒插滿只有32g只能再用虛擬記憶體補
結果就是交換太慢
跑一張圖要超過80秒

如果要治標現在ram貴的跟金條一樣
治本的vram更不用說
5090及更高階的繪圖卡現在價格，一般人根本望塵莫及了
現在才發現5070ti根本路邊一條

-----
Sent from JPTT on my Asus ASUS_AI2302.

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 106.64.121.43 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1769858994.A.BFB.html
→ kuninaka: 老黃再說你都沒聽
→ kuninaka: 老黃刀法，ＶＲＡＭ比黃金還貴
推 ctes940008: 怎麼不買Pro 6000
→ violegrace: 消費級直上pro6000啊
推 sugoichai: 80秒可以了，沒什麼好嫌的，忍一下而已
→ Justapig: 80秒不是算滿快的嗎
推 ouka: 小捏一下上pro 6000吧
噓 widec: 80秒是在抱怨啥
→ gbcg9725: 用雲端平台啊
推 Destery: 不然你以為大企業砸重金買這麼多設備幹嘛
推 ouka: 不然就花錢買5090搭12pin轉接頭生大量圖，你
→ ouka: 會有爆炸性發現
推 kaj1983: 買越多省越多
→ kaj1983: 不如把錢省下來去訂閱其他AI改圖
→ rooo2012: 16g顯存最少要3-4倍的記憶體吧
→ e04su3no: 雲端平台其實現在價格都不貴，要玩大模
→ e04su3no: 型雲端確實是平民最實在的選擇
→ e04su3no: 從ill8秒到qwen80秒那個落差太大了，雖
→ e04su3no: 然clip也是肉眼可見的差距，等zib看能不
→ e04su3no: 能拯救世界吧
推 DonDonFans: 所以記憶體才那麼貴啊
→ DonDonFans: 不然你以為在漲甚麼...
→ gbcg9725: 5070ti+64g 跑個影片還可以接受
→ gbcg9725: 32g ram真的太小了
推 YOAOY: 80秒蠻快的
→ rooo2012: 如果買到5090 記憶體96g應該還不夠 ssd
→ rooo2012:  硬碟 也要補好補滿 一堆套件要裝
推 good10740: 產出巨量資料又是另一個坑
推 LeoYuri: 所以我插兩張16g顯卡啊，你也可以試試
→ socapla: 錢不夠就用時間來補囉
推 SAMMY728: 用雲端跑，等到你用AI的收益足夠你一直
→ SAMMY728: 投入新設備在自己建。但到時又會有更快
→ SAMMY728: 的硬體了。
推 ctfs2001: 我也是11月組了5090想玩遊戲結果電子陽
→ ctfs2001: 痿，本來都想趁行情好賣掉算了，結果這
→ ctfs2001: 幾天comfyui發現新世界，現在覺得64g記
→ ctfs2001: 憶體好像不太夠，而且當初組小鋼砲想說
→ ctfs2001: 散熱差不多就好，現在常時600w滿載再跑,
→ ctfs2001: 顯卡都頂在80-85度，想換大機殼了.....
→ heatlion: 又不是畫不出來
推 ctfs2001: 現在是很多雲端工具可以替代來用是不錯
→ ctfs2001: ，但成本也不便宜，而且不好做nsfw的產
→ ctfs2001: 出...
推 gameguy: 花20至30萬買張RTX A6000 跑AI啊
推 Supasizeit: Klein加減用啦
→ Supasizeit: Qwen也是有gguf可以用啊
推 finalpage: 如果你只是自己業餘在玩的話還好啦，要
→ finalpage: 靠這個吃飯再煩惱就好
推 a931386: https://i.imgur.com/4Sis2Xw.jpeg
→ a931386: 最划算是4090 48G改水冷
→ gbcg9725: 雲端就擦個邊，nsfw的部分在本地改
→ a931386: 然後記憶體要跑1分鐘的色色影片
→ a931386: 也是會常常吃滿
推 shrinkage: 菜雞弱弱的一問，自架硬體來ai生圖，好
→ shrinkage: 處是可以突破規範之類的嗎？
推 jen1121: Ram至少128g
→ n3688: 是的,本端跑AI就是實現色圖自由
推 necrophagist: Qwen用nunchaku量化版 不然就換z i
→ necrophagist: mage。大概都12g而已,我5070ti一張
→ necrophagist: 大概12秒
推 lugunatk: 5090+192gb 幾秒？
推 kizajan: vram少試試看z-image
→ kizajan: q8輕鬆跑 影片就wan2.2
→ kizajan: 不要求瑟瑟的話hunyuanvideo1.5更快
→ kizajan: 但ram太少也是會被資料塞爆
→ kizajan: 真的別進入swap 又慢又不划算
→ kizajan: z-image真的很友善了 包括最近的base版
→ kizajan: 然後又沒什麼限制...頂多就是模型小了點
→ kizajan: 用的text encoder也是qwen 算聽話了
推 kizajan: 生影片ram太少的話 就多段拼接
→ kizajan: wan2.2+svi2.0pro latent直入效果還不錯
→ kizajan: 有人提到雲端平台nsfw...解法=本地decode
推 jhjhs33504: FFmpeg整合AI 搞得剪輯師也要學習加速
→ e04su3no: 剛弄了qwen AIO gguf v20玩看看
→ e04su3no: z的審美比q好的多，期待過幾個月zib的lo
→ e04su3no: ra生態圈
推 jhjhs33504: 本地gguf簡易驗證 真要搞要專用伺服器
推 kizajan: 感覺zib真的有搞頭 lora也產滿快的
→ kizajan: 可以inpaint可以controlnet消費級gpu友善