Re: [閒聊] AI模型破壞器Nightshade 正式推出

[cozywolf (cozywolf)]

某方面來說我覺得這個可以說是最有效的武器

因為他所造成的機會成本是在科技時代最重要的資源--時間

未來畫師不需要每一張圖都過Nightshade，只要選幾張過就好

對於模型訓練者來說就會迫使他們必須要開發新的模型來偵測這些被Nightshade跑過的圖

而且隨著版本更新各種Nightshade的變體出現會使的偵測更加困難，或至少變的繁瑣

如此就會增加資料準備的時間，如果前處理有任何的漏網之魚，訓練結果被爆破

對於訓練者來說就會是超級大的時間損失

Stable Diffusion當時訓練花了7天，用了21000張A100，花了約42000鎂

所以被爆一次就是浪費七天的時間，之後可能還要重新去找是哪些圖片出了問題

或為此訓練新的模型來進行前處理，如此一來一往就會增加大量的人力與作業時間

同時也會打擊訓練者對於資料來源的信心，最終可能也會拖慢整個AI發展的速度

而這些多出來的時間可能又有人可以發展出新的干擾方式

結論就是Nightshade可能可以為AI生成反制研究爭取時間這樣吧

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 24.16.156.13 (美國)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1705891513.A.454.html
推 a204a218: 講起來也是蠻可悲的，本來提不提供給AI當素材用應該是
→ a204a218: 創作者的自由，現在卻必須這樣勾心鬥角來完成本來應該
→ a204a218: 一句話就解決的事
→ cozywolf: 沒辦法，科技發展下的悲劇，數位化媒介基本無法控管，就
→ cozywolf: 算說不行用，訓練的最終參數是沒有原圖的也無法舉證，只
→ cozywolf: 好大家自己保護自己......
→ cozywolf: 法規目前也跟不上，創作者都個體戶也無法跟大企業對抗
推 yellowhow: 因為目前沒手段可以防止未經許可的訓練吧
推 emptie: 啊……這場對抗從一開始就是徒勞吧。
→ emptie: 目前沒有手段防止，以後應該也不會有吧，除非所有人都不
→ emptie: 公開發表作品了，回到金主下訂單養藝術家的生產模式。
推 sustainer123: 日本法律都允許ml使用別人圖片了 對阿
推 yellowhow: 頂多強制要求你標著來源吧，不標清楚就直接重罰
→ yellowhow: 至少有一點點保障，能當成是宣傳(自我安慰)
→ emptie: 你沒手段去驗證他的來源標示是否屬實，就跟沒這條規定差
→ emptie: 不多意思吧。
→ yellowhow: 審查制這東西就是個人心證，反正嚴格點就能讓人自律
→ yellowhow: 但是目前為了AI發展不太可能搞出偏向創作者的法律
→ yellowhow: 大手還有名氣跟創意可以不在意，還沒長大的就自己加油