Re: [閒聊] えなこ抱怨照片遭到無斷使用的AI量產

[Satoman (沙陀曼)]

推 EfiwymsiAros: 是有直接寫名字嗎 不然怎麼知道拿她照片
推 EfiwymsiAros: 你不能因為生出來長得像就說有盜你照片吧
這種沒常識的話就少說吧 ==
目前這個流行的生成式AI就「不能無中生有」。


這不是「長得像」的問題，而是假設當你能出生一張能被稱為えなこ的AI圖時，
只有以下五種可能。



1.你用的AI模型有用えなこ本人的照片或影片截圖進行訓練。

2.你沒有用えなこ的照片訓練模型，而是直接用AI換臉。

3.你是個3D大師，能建出一個跟本人極度相似的3D模型，
之後再以那個3D模型算圖出來的圖片進行訓練。

4.你是超級寫實主義的大師級畫家，能畫出與えなこ照片幾乎相同的圖畫。

5.你是蠟像大師，能在現實完美複製えなこ的外型。
你是用超擬真蠟像的照片進行訓練。

6.えなこ有同卵雙胞胎，又或是有えなこ的複製人存在。




6顯然現實上不可能，而且這是唯一沒有用上本人的方法

5理論上可行，但是沒人會浪費時間這樣幹

3和4是最有可能的選項，但能實際上能做到這種事的人幹嘛用AI ==



所以幾乎可確定看到AIえなこ = 用えなこ的照片訓練或換臉生成的圖片。

如果真的是345的情況覺得自己很委屈，就麻煩公開dataset和參數讓大家重現看看，
雖然設備會影響結果，但是不會影響到完全變成另一個人。







再強調一次，現在的生成式AI不能無中生有。


舉我自己的栗子，我在訓練86蕾娜的lora模型時加了23話的背景，
目的是想生出下面這個場景：
https://i.imgur.com/w2jHpVa.png



但是這張圖只能說氛圍對了，但是花卻是錯的，不是本來的彼岸花。

我原本以為是解析度太低，
AI沒有辦法辨認出彼岸花所以就生個同樣是紅色的花意思意思。



直到我昨天測試時，才發現問題是我自己耍白癡 ==
訓練集一直以來都混了兩張我當時為了測試圖生圖效果的錯誤圖片。

https://i.imgur.com/kn86kLt.jpeg
https://i.imgur.com/oCMkrzF.jpeg


把那兩張圖蛋雕後，結果就是真的彼岸花了 ==
https://iili.io/2K7SOWQ.png



是的，AI不能無中生有。

原本那種形象很明確的紅花純粹是我自己耍蠢，混進了錯誤的圖片，
打標籤時又讓這種紅花汙染了Spider lily的提詞所導致。





所以不要再講「只是很像」、「沒證據」、「不能說AI幹圖」這種說法了。
事實上，用AI模型生出的圖本身一直都是證據。

--
(と・てノ)  翼龍欸

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.163.136.53 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1729663300.A.574.html
※ 編輯: Satoman (1.163.136.53 臺灣), 10/23/2024 14:02:09
推 uranus013: 他們會跟你說345也是用眼睛跟大腦幹圖
推 kinve1014: 有些人就這樣  很可憐
推 s7503228: 不能無中生有那4-11的黑人是不是可以判違規了
推 meredith001: Enako在推特一堆不是她本人發的照片 要訓練很快
推 CowGundam: 這種話講出來就代表根本沒過腦，要是不是為了長得像要
→ CowGundam: 去蹭人氣幹嘛要生一樣的
推 kimokimocom: 娃 被專業分析了
推 x2159679: 專業文給推
→ jazon: 要檔太難了 很多人拍照就會上傳 很容易就拿去訓練
→ qaz95677: 你這樣等一下AI仔又要爆氣了
推 GyroZeppeli: 問就是蒸氣機
推 b325019: 問就是你是砸蒸汽機阻礙進步的守舊老人
推 npc776: 自以為蒸汽機 其實只是蒸飯箱
推 NEKOWORKi: X也知道管不了直接放推避責了  你圖片放上去就是同意
推 SilentRain24: 推推
推 onionandy: 我早就看開了 傳上去的娃圖都當作會被拿去AI
推 mamamia0419: 那些就是雲AI仔
→ onionandy: 即使沒有推特那個免責權 也不可能抑止盜用
推 johnny3: 拿國去訓練跑出えなこ的話呢
→ A5Watamate: 7.綺夢
推 miyazakisun2: 我知道有個複製人 但我不能說
推 chenyeart: 推專業
→ SaberMyWifi: 別人不敢說但えなこ的話，台灣有複製人可以練AI
→ SaberMyWifi: 所以純以えなこ而論，出現很像她的AI圖還真的不一定
→ SaberMyWifi: 是用えなこ去練的，現實就是比小說還離譜
推 Headache99: 這是只用動畫的素材還是有用到しらび的？
丟了幾張小說插畫當正則

→ carllace: AI的人臉辨識能力還是有可能把父母兄弟姊妹修成本人吧
→ carllace: ？
→ carllace: 像我的臉在某些角度下可以解鎖我爸的手機
推 mkcg5825: 7國
原理不一樣

如果你用50張爸爸和一張兒子的照片做模型，那通常生成的AI圖還是比較像老爸。
但是爸爸兒子各25張又沒用提詞分隔，那AI理論上會給你一個爸爸和兒子都很像的人臉。


推 meredith001: 人臉辨識的問題在東方臉孔還有問題 iphone照片分類常
→ meredith001: 常就把不同人放在一起 同一個人又判斷成不同人
推 clothg34569: 6 台灣還真的有 但是誰我不敢說
推 zerox123456: 翼龍欸
→ andyleeyuan: 好啦 我知道你很會訓練 這算是一種拼圖嗎
推 spawnsnight: AI仔：你懂技術嗎？你懂原理嗎？鬼叫什麼？
→ vitalis: AI臉部生成跟人臉解鎖完全不是一件事,別鬧了
※ 編輯: Satoman (1.163.136.53 臺灣), 10/24/2024 14:22:29
→ fmp1234: 蕾娜真好看
推 k798976869: 正版授權 撈一票