[蒸汽機] 芝加哥大學研究團隊發布防模仿AI模型

[smart0eddie (smart0eddie)]

https://glaze.cs.uchicago.edu/
https://arxiv.org/pdf/2302.04222.pdf

https://i.imgur.com/CMsJc1t.png
https://i.imgur.com/fHKmNBA.png
目前生成式 AI 模型可以學習去模仿特定畫家的繪畫風格
部分畫家反對被 AI 模仿

https://i.imgur.com/wCJ2LyV.png
芝加哥大學的研究團隊發表了一項防 AI 模型模仿的 AI 模型 GLAZE
簡單來說 GLAZE 模型會學習將畫家的圖混入其他的風格
讓人眼看起來跟原圖沒有甚麼差別
但是生成式 AI 模型看到的卻是另一種風格

https://i.imgur.com/Csdlvgq.png
因此經過 GLAZE 保護的原圖
可以讓生成式 AI 模型沒辦法成功的學習如何模仿畫家的畫風

防 AI 的 AI
捏

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.171.11.73 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1683974223.A.A20.html
※ smart0eddie:轉錄至看板 AI_Art                                   05/13 18:37
推 fuhu66: 防 防AI的AI
推 kaj1983: 放心，人做的東西一定有辦法破解
→ kaj1983: 到時候就有破解AI的AI出來了
推 pomelolawod: 之前有破解加雜訊的方法 這個也能破解嗎
推 attacksoil: 本宅做CV的 直接跟你講沒用
以他實驗看起來單純加雜訊或adversarial training 可能破不了
或許可以用另一個SD 去預測他摻的雜訊(?)

推 Davinais: 感覺像 adversarial attack 的延伸
類似的概念
推 reaturn: 記的AI研究方向不是也有AI正反二方對抗的要求嗎 XD
※ 編輯: smart0eddie (118.171.11.73 臺灣), 05/13/2023 18:54:43
推 x09285006: 樓上 : 對抗生成網路GAN 啾啾鞋有介紹過 蠻有趣的
推 billy791122: 反AI軟體畫的圖是AI繪圖嗎
→ smart0eddie: 是(?
推 shintz: 馬賽克你的解馬賽克
推 roger840410: GAN就這樣啊 兩個AI對幹
推 a204a218: 抓到，芝加哥大學帶頭砸蒸汽機，必然被世代淘汰
推 protess: ：你竟敢用我的咒語對付我
→ ssarc: 如果我用AI畫完然後宣稱是人畫的，那要怎麼看出來我說謊？
推 franktpmvu: 這個已經兩個月了 強度開太低防不住 強度開太高你的
→ franktpmvu: 畫就毀了
推 SALEENS7LM: 有開頭就有進步，Ai仔跟Ai答辯必敗
→ renn999: 已經有可以處理這種開這鳥東西的外掛了
推 GooglePixel: 說白了就浮水印技術 只是號稱用AI加上去 幾個pixel
→ GooglePixel: value的差異一下就繞過去了
推 bor1771: 僞浮水印嗎？
推 guogu: #1a5Hsnqm (AI_Art) 這個喔 早被破了
推 attacksoil: 太多方式可以規避了 感覺就是只懂AI不懂影像的人搞的
→ attacksoil: 技術