[問題] GAN 實作以及loss function的問題

[eggy1018 (羅密歐與豬過夜)]

各位Data Science 版的大大們好，最近在深入研究GAN時，對於他的loss function的了
解以及實作上仍存有疑惑。

問題點
最初開始推導的loss function 如下圖
https://i.imgur.com/cafOjej.jpg

意思是G, D min max這個function吧？換句話說是同個loss funcion？

可是....
在實作上G, D的loss function卻不太一樣

Generator loss function
https://i.imgur.com/tNVfz6s.jpg

Discriminator loss function
https://i.imgur.com/4pzT6Hh.jpg


在自己以前學習的認知中，D要max上圖的Lisa function, G要min之，，所以我以為可能
是同個loss function但是一個是正的一個是負的，然而實作上的方式卻跟數學意義上不
太一樣...


希望各位版友能給我一點意見，真的卡了很久，謝謝大家！

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.114.59.240 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1600601445.A.317.html

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.114.59.240 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1600601509.A.87B.html
推 acctouhou: 那個是最終目標，但過程只能靠iteration達成，所以造
→ acctouhou: 成這種差異
→ chang1248w: BCE裡面你給的標籤不一樣正負號也就不一樣了
推 yuwenche: 你記錯了， discriminator與generator的loss function是
→ yuwenche: 是不同的。你列出來的第一個式子是GAN的loss function，
→ yuwenche: 它包含了discriminator與generator兩部份，
→ yuwenche: discriminator是要將其最大化， 而generator要將其最小
→ yuwenche: 化。 但當我們能找到global maximun的discriminator時，
→ yuwenche: 其實也就找到了最佳的generator，因此第一個式子基本上
→ yuwenche: 就是discriminator的loss function。這中間有些數學推導
→ yuwenche: ，有興趣可參考:
→ yuwenche: https://towardsdatascience.com/automatic-feature
→ yuwenche: -engineering-using-generative-adversarial-networks
→ yuwenche: -8e24b3c16bf3
→ yuwenche: 只是有些好奇， 如果只是作影像方面的東西， 人家的程
→ yuwenche: 式就已經寫好， 不懂這些理論細節應該也沒啥要緊的吧?
→ yuwenche: 我是作財金方面的應用， 歡迎私訊來聊。