[閒聊] AI模型破壞器Nightshade 正式推出

[windowhihi (こいしprpr)]

https://i.imgur.com/hPysBFF.png

https://t.co/knwLJSRrRh

用Nightshade處理過的圖,只要被別人拿去餵AI,

圖就會把AI裏面的模型破壞掉

圖上會有痕跡但聽說不太能看出來

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 65.181.90.41 (香港)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1705887379.A.070.html
※ 編輯: windowhihi (65.181.90.41 香港), 01/22/2024 09:36:33
推 steven3231: 什麼時候要出AI模型破壞破壞器
→ CCNK: AI模型破壞器修復 永動機
推 aria0520: 沒用 這個隨便過一層jpeg encode就沒了
→ poz93: 下一個 反AI破壞器
推 risingheart: 中子干擾器 反中子干擾器
推 risingheart: AI的自由與正義要出來了
推 guogu: 之前glaze吹到飛天 結果超影響圖片而且一下就被繞過了
→ guogu: 現在的這個連範例都沒有
→ MoodyBlues: 原文說你即使手機翻拍螢幕那個干擾效果都在 只是沒範
→ reader2714: #1a5Hsnqm (AI_Art) 回顧一下glaze
推 jychu1132: 有心人士只要丟進繪圖軟體跑一下去雜訊就破解了，只需
→ jychu1132: 幾秒鐘
推 iam0718: 跟馬賽克破壞器差不多
推 aria0520: 這種只能騙騙麻瓜
推 sustainer123: 簡單來說 這就像加密技術
→ sustainer123: 將色碼進行轉換來防止被偷圖?
→ sustainer123: 我看起來感覺跟隱寫術差不多?有大老能說明一下嗎
推 tsubasawolfy: 不是 看起來是利用模型訓練抓特徵的方式加入誤導
→ tsubasawolfy: 讓訓練出錯達成破壞目的 不過就像上面說的用上千張
→ tsubasawolfy: 誤導過後的去抓出特徵後過濾掉就好
推 as920909: 多一道前處理罷了
推 winniekuma: 文組手舞足蹈
→ Peurintesa: 阿我當作某種雜訊處理掉不就沒事了==
→ hinanaitenco: 有沒有聽過adversarial training 這根本沒用
推 Innofance: 等等就有人訓練AI模型破壞器的破壞器
噓 chenteddy: 超沒用 做個Normalization 就能濾掉的東西
推 acs81046: 等AI模型破壞破壞器
推 chenteddy: 整個網站連範例圖都沒有
推 RabbitHorse: 你繪師等著被抄就好抵抗個屁
推 k12795: ？ 供啥
推 guogu: 查了一下這個就做glaze的團隊做的...
→ guogu: 那他們的看不太出來可能跟一般人想像有落差
→ KudanAkito: 夜帷
→ lbowlbow: 以後ai就得多弄個雜訊處理而己