[閒聊] AMD便宜apu跑stable diffusion,MiniGPT4等

[egnaro123 (原po是大叔)]

https://medium.com/@ttio2tech_28094/democratize-ai-turn-a-95-chip-into-a-16gb-vram-gpu-beats-most-of-the-discrete-gpus-51a8636a4719

I have tested both training and inferencing for:

A: Stable diffusion, text inversion training.
B: LLM. LlaMA fine tuning (lora).

....

似乎比CPU快些

https://www.youtube.com/watch?v=HPO7fu7Vyw4

有APU的人可以試試,想小玩的人也不用完大錢買NV的顯示卡

但是GPU還是較快

-----

一些閒聊

https://old.reddit.com/r/Amd/comments/15t0lsm/i_turned_a_95_amd_apu_into_a_16gb_vram_gpu_and_it/?sort=qa

AMD 4600G/5600G的APU被低估了,這代給太多了

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.166.68.219 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1692540371.A.CC7.html
推 BlackCoal: 便宜入手超大VRAM
推 WeasoN: 有料 不過我等8000APU
→ abc21086999: medium自己有縮網址用一下好嗎= =
推 harry886901: 好的 等等rog ally準備中
推 Stupidog5566: 我的5600G準備戰20年 56不能亡
→ tomsawyer: apu最多是32x4還是64x4?
→ gohst1234: 要一般人使用Linux實在還是有點門檻
→ tomsawyer: 話說M2 max 96GB應該能屌打吧
推 uegajde: 可惜我的4750U主板限制給gpu的ram=沒戲
推 halow: 現在AMD顯卡能不能跑XL阿 想買二手6700XT
→ twinkleAshed: 在ROCM下, 6700XT可以到1it/s.
→ twinkleAshed: 但在directml下, 則會到6-14s/it.
→ twinkleAshed: 參數應該都是--medvram -opt-sub-q
→ twinkleAshed: uad-attention.
google研究,
這位仁兄應是用ROCM,APU不支持ROCM,怎改的,這位老兄一點都沒提,
這東西當然有用,因為很多model在16G的VRAM都能跑起來,
我猜測應該也不會放,擋了太多人的利益,
APU用stable diffusion,可用directml,windows下有人作成影片了
推 iuytjhgf: 拿M2來玩早就已經一堆人在搞了
推 lazioliz: 插滿4根終於有用了嗎
噓 a000000000: 過陣子windows就會支援惹
※ 編輯: egnaro123 (118.166.68.219 臺灣), 08/21/2023 04:44:13
→ twinkleAshed: 我是回樓上, 我沒在用APU.
→ twinkleAshed: directml的低效能是我嘗試使用Linu
→ twinkleAshed: x下ROCM的主因.
→ twinkleAshed: 但我不太喜歡那環境, 所以後來dire
→ twinkleAshed: ctml分支也可使用SDXL後,
→ twinkleAshed: 我就回Windows上用了.
推 nisioisin: 早知道不買Intel 氣氣氣
推 g04865: 有沒有教學文啊
推 Chilloutt: 來個Intel gpu可以嗎