作者eggy1018 (羅密歐與豬過夜)
看板DataScience
標題[問題] GAN 實作以及loss function的問題
時間Sun Sep 20 19:31:47 2020
各位Data Science 版的大大們好，最近在深入研究GAN時，對於他的loss function的了
解以及實作上仍存有疑惑。
問題點
最初開始推導的loss function 如下圖
https://i.imgur.com/cafOjej.jpg
意思是G, D min max這個function吧？換句話說是同個loss funcion？
可是....
在實作上G, D的loss function卻不太一樣
Generator loss function
https://i.imgur.com/tNVfz6s.jpg
Discriminator loss function
https://i.imgur.com/4pzT6Hh.jpg
在自己以前學習的認知中，D要max上圖的Lisa function, G要min之，，所以我以為可能
是同個loss function但是一個是正的一個是負的，然而實作上的方式卻跟數學意義上不
太一樣...
希望各位版友能給我一點意見，真的卡了很久，謝謝大家！
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.114.59.240 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/DataScience/M.1600601445.A.317.html
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.114.59.240 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/DataScience/M.1600601509.A.87B.html
1F：推 acctouhou: 那個是最終目標，但過程只能靠iteration達成，所以造 09/20 20:07
2F：→ acctouhou: 成這種差異 09/20 20:07
3F：→ chang1248w: BCE裡面你給的標籤不一樣正負號也就不一樣了 09/21 23:06
4F：推 yuwenche: 你記錯了， discriminator與generator的loss function是 09/23 09:08
5F：→ yuwenche: 是不同的。你列出來的第一個式子是GAN的loss function， 09/23 09:10
6F：→ yuwenche: 它包含了discriminator與generator兩部份， 09/23 09:12
7F：→ yuwenche: discriminator是要將其最大化， 而generator要將其最小 09/23 09:14
8F：→ yuwenche: 化。 但當我們能找到global maximun的discriminator時， 09/23 09:16
9F：→ yuwenche: 其實也就找到了最佳的generator，因此第一個式子基本上 09/23 09:18
10F：→ yuwenche: 就是discriminator的loss function。這中間有些數學推導 09/23 09:19
11F：→ yuwenche: ，有興趣可參考: 09/23 09:20
13F：→ yuwenche: -engineering-using-generative-adversarial-networks 09/23 09:23
14F：→ yuwenche: -8e24b3c16bf3 09/23 09:23
15F：→ yuwenche: 只是有些好奇， 如果只是作影像方面的東西， 人家的程 09/23 09:25
16F：→ yuwenche: 式就已經寫好， 不懂這些理論細節應該也沒啥要緊的吧? 09/23 09:26
17F：→ yuwenche: 我是作財金方面的應用， 歡迎私訊來聊。 09/23 09:27