[討論] 關於LORA模型訓練的問題

[Dinaya (狄娜雅)]

大家好，由於朋友 DS 沒有PTT帳號，

所以在這邊幫他代PO詢問，

希望能協助他解決一些環境設定的問題 :


---- 以下為代PO詢問內容 ----

小弟是最近開始接觸AI算圖的
也想要訓練特定的二次元角色模型
之前有用過embeddings跟Hypernetwork來製作過
但效果不太理想(出圖正常, 但角色還是不太像)
而硬體不夠使用DreamBooth, 原本想放棄
但看到LORA問世+效果不錯的樣子, 於是想說再試試看

1.
目前我已知訓練LORA模型的管道有兩大種
第一種是SD WebUI內建的DreamBooth底下的LORA訓練
可是出來的結果還是不好(可以看出角色特徵, 但出圖像彩繪玻璃那樣)
但我明明有照網路上的教學設定參數/準備訓練用圖片
源模型選用SD附贈的final-turn的二次元模型
Lr改成0.00001
Lr_unet跟Lr_text都用插件預設的值
增加訓練步數/改變學習率  都試過了
還是差不多的結果(且Loss最低只到0.06左右)
不知道是我哪邊弄錯, 或是哪邊可以改進?

2.
另一種是用kohya-ss的script
(不論是B站秋葉大提供的, 或是kohya-ss GUI應該都是同樣的script)
我也是參考了網路上的教學來準備環境
(版友這邊教學的步驟也都做了
https://www.ptt.cc/bbs/AI_Art/M.1675979958.A.6A5.html)

但目前差在最後一步
就是在執行Train的時候(已跳出windowshell)
當程式跑到

===BUG Report===
welcome to ...
================

這段之後
會出現WARNING! libcudart.so not found in any environmental path
然後就報錯, 終止訓練

我有在網路查這問題要怎麼解決
但像是CUDA也更新了, 系統還是說找不到
嘗試更新conda來解決問題的時候(ex:conda update conda)
出現

CondaError: Cannot link a source that does not exist.
C:\Users\Maurice\Anaconda3\Scripts\conda.exe
Running conda clean --packages may resolve your problem.
Attempting to roll back.

但不論是使用此語法建議的

conda clean --packages

或是網路上寫的

conda clean --all --yes
conda update conda

或

conda install tqdm -f
conda update conda

都還是出現一樣的錯誤

有沒有人知不知道要怎麼解決這個問題?



--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.231.6.46 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/AI_Art/M.1676271793.A.DA2.html
推 HysTakuya: https://rentry.org/lora_train 這網頁有講到libcuda
→ HysTakuya: rt.so的問題 在接近最底下 不知道效果
我的朋友看了推文後，跟我說他照著這個參考網站照做成功了!!

感謝大大相助~


我轉一下他的感謝訊息：

照著這個網站提供的方法成功了!!!太神啦!!!大感謝

※ 編輯: Dinaya (36.231.6.46 臺灣), 02/13/2023 23:18:48
推 hitlerx: 恭喜 \ o.o /
推 HysTakuya: 讚 ！
推 andyleeyuan: 推 請問你朋友python環境是使用conda嗎?
推 danny0108: 我昨天也遇到不能train lora的問題，雖然不確定是不是
→ danny0108: 跟版主問題一樣，不過還是給推，希望能更多中文圈的人
→ danny0108: 加入討論！