[閒聊] 防止AI學習的軟體Glaze的一些問題

[saces (saces)]

前幾天號稱能保護圖像不被學習的Glaze
結果似乎有很多問題

https://reurl.cc/ZXeYr3

1. 抄襲了GPL-licensed的Code
公布沒多久，就有Reddit 使用者發現使用了DiffusionBee的代碼，連錯字都沒改，照GPL
的規範，應該要公佈原始碼，但Glaze 不但沒有連Credit 都沒有。


2. 論文使用不公正的詆毀性言論，學術論文多次使用了抄襲、偷竊來形容AI圖像生成AI

那自己抄了別人的Code是什麼呢
https://i.imgur.com/Ku1KnYK.jpg

只是不小心的錯啦

3. 效果不好
Glaze宣稱肉眼看不出來，又有很好的效果。
實際上的圖像跟用了浮水印一樣明顯。
而且Reddit上測試的結果是，幾乎沒用
https://reurl.cc/o0ROrj

最上面那篇文章也提到，要去掉Glaze也很簡單。

據說glaze一張圖還要十幾分鐘
https://reurl.cc/8qv1vR


不過這位教授很自豪的說，Glaze發表的推已經兩百萬觀看了，他應該是不Care吧


另外這對最常被說盜圖的i2i也完全沒有用

因為對i2i沒用
所以i2i 加 canny 就能還原沒被影響的圖
https://reurl.cc/lvQ3ll

防護一張圖十幾分鐘 破解一分鐘


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.34.148.51 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/AI_Art/M.1679105457.A.D30.html
※ 編輯: saces (1.34.148.51 臺灣), 03/18/2023 10:28:12
推 tzouandy2818: 有趣推
推 soma2016: 看繪師拿著glaze集體自慰很好笑
推 soma2016: ai合理正常使用被他說成是偷竊也是很令人憤怒的點
推 zxc88585: 好了啦餿馬，不要在西洽不受歡迎就跑到別版亂
推 milk830122: 很多繪師沒經過同意 整組風格就被人家拿去做成lora模
→ milk830122: 型 這種確實蠻無良的
→ milk830122: 不過在目前無法可管的情況下 繪師就只能先好自為之囉
→ milk830122: 法規很難跟上時代潮流
→ milk830122: 以前偷繪師的圖做成週邊 現在可以直接自己用ai出相同
→ milk830122: 風格來出週邊 想想就覺得繪師好慘 這就是不當使用的一
→ milk830122: 種
推 yeeouo: 推4樓
推 soma2016: 我不覺得那是惡用，那只是在用 ai學習那個繪師的畫功而
→ soma2016: 已
推 cloki: 以營利為目標盜用別人的創作跟勞力不是惡用是甚麼...
推 Supasizeit: 做Lora完全不會是盜用，除非他的圖是盜來的。Lora產
→ Supasizeit: 出的圖拿去賣，就像街頭畫家模仿梵谷幫你畫自畫像一
→ Supasizeit: 樣，他犯法嗎？
→ Supasizeit: 所以現在根本就是ethics的問題
→ Mchord: 肉眼看不出瑕疵的圖就能拿來訓練啊...
→ milk830122: 盜圖訓練 早在之前就吵過一輪  這現象各位大手也不可
→ milk830122: 能不知道他們擔心的就是法規問題 現在還可以用沒犯法
→ milk830122: 護航大肆搜刮繪師的圖來練
→ milk830122: 時代變太快根本還沒有相關法規
推 soma2016: 是時代變太快沒有相關法規，還是本來就沒問題所以不可能
→ soma2016: 會有相關法規？ 讓ai學習繪師的畫功跟人類分析繪師用了
→ soma2016: 哪個筆刷、甚麼筆觸和上色方式還不是一樣
→ soma2016: 只是用ai就不用大把浪費時間罷了
推 ZMTL: 時代變太快沒有相關法規？日本2019才對機械學習修法特別講清
推 ZMTL: 楚不侵犯著作權，這不算是相關法規？
→ ZMTL: 當然法規定了不代表不能討論正當性，但機械學習的合理使用早
→ ZMTL: 在各國法條裡面了   過去沒爭議只是沒想過如今可以「用」的
→ ZMTL: 這麼好。
→ zxc88585: 跟餿馬認真就輸了
→ milk830122: 但是侵犯他人利益者不在此法規保護範圍內 又要怎麼證
→ milk830122: 明侵犯自己利益又很難囉 畢竟ai還一堆新用法在開發中
→ milk830122: 呢
→ milk830122: 我沒有要反ai的意思不要誤會哈 我自己也有在玩 但是確
→ milk830122: 實還很多模糊地帶還要更多判例跟法律來佐證
推 Vulpix: 風格問題以前就只是道德問題而已吧。角色圖的問題就等同
→ Vulpix: 同人圖。我覺得風格是絕對不可以立法保護的，角色則好像一
→ Vulpix: 直處於作者要告可以告的狀態？
推 soma2016: 風格真的可以保護的話，那藝術才會真正死亡
推 ZMTL: 我也認為還需要更多判例，但我認為說沒有機械學習相關法規、
→ ZMTL: 法律跟不上不太準確，實際上無授權訓練可以這麼猖獗就是因為
→ ZMTL: 很多國家法規還特別載明機械學習不會受限於著作權許可
推 Vulpix: 他們要防可以防，但我覺得入刑法是沒有意義的。
https://reurl.cc/0Ednq9
結果今天就有人貼出了去除Glaze的程式
只需要16行code, 1024的圖片只要三秒
然後馬上有人寫成webui插件了

還有這個教授一直不提供他們實驗的datasets 可疑到不行 懷疑實驗的結果可能根本就假
的

※ 編輯: saces (1.200.51.107 臺灣), 03/20/2023 13:27:30
推 Vulpix: 教授可疑，不過不礙於這個概念就是了。或許真的有可能有別
→ Vulpix: 的更快更有效的防止訓練手段。這或許也會再一次促進AI識別
→ Vulpix: 圖片的功能呢。
→ Vulpix: 當然最有效的方式就是把圖片放在不連網的電腦上(X)