探討GAN背后的數(shù)學(xué)原理（上）

0 引子

GAN的風(fēng)暴席卷了整個(gè)深度學(xué)習(xí)圈子，任何任務(wù)似乎套上GAN的殼子，立馬就變得高大上了起來。那么，GAN究竟是什么呢？

GAN的主要應(yīng)用目標(biāo)：

生成式任務(wù)（生成、重建、超分辨率、風(fēng)格遷移、補(bǔ)全、上采樣等）

GAN的核心思想： 生成器G和判別器D的一代代博弈

生成器： 生成網(wǎng)絡(luò)，通過輸入生成圖像

判別器： 二分類網(wǎng)絡(luò)，將生成器生成圖像作為負(fù)樣本，真實(shí)圖像作為正樣本

learn 判別器D：

給定G，通過G生成圖像產(chǎn)生負(fù)樣本，并結(jié)合真實(shí)圖像作為正樣本來訓(xùn)練D

learn 生成器G：

給定D，以使得D對(duì)G生成圖像的評(píng)分盡可能接近正樣本作為目標(biāo)來訓(xùn)練G

G和D的訓(xùn)練過程交替進(jìn)行，這個(gè)對(duì)抗的過程使得G生成的圖像越來越逼真，D“打假”的能力也越來越強(qiáng)。

覺得不是很好理解嘛？別著急，慢慢往下看！

1 從極大似然估計(jì)說起

補(bǔ)充：

分布的表示：P(x)

表示該分布中采樣到樣本x的概率，試想如果我們知道該分布中每個(gè)樣本的采樣概率，那么這個(gè)分布也就可以以這種形式表示出來了。

確定分布的表示：P(x;