GAN 네트워크 이해

GAN 네트워크 이해

다음 정보를 참조한 후 저자는 GAN에 대한 이해에 대해 간단한 메모를 작성했습니다.
정보 참조 : GAN (Generative Adversarial Network) 이해
기타 정보 : GAN 2014 논문 , NIPS 2016 자습서 : Generative Adversarial Networks

GAN (Generative Adversarial Network) 이해

GAN 네트워크는 2014 년에 제안되었으며 새로운 네트워크 구조로 널리 사용됩니다. GAN 네트워크는 주로 두 부분으로 구성됩니다. 하나는 생성기 G이고 다른 하나는 판별 기 D입니다. 생성기의 목적은 훈련 데이터와 유사한 데이터를 생성하여 판별 기 D의 판단을 최대한 혼동하는 것이며 판별자는 데이터가 G에서 온 것인지 실제 훈련 데이터에서 온 것인지 가능한 한 많이 구별하도록 노력해야합니다. 최종 이상적인 수렴 결과는 다음과 같습니다. 생성기에서 생성 된 데이터의 확률 밀도 분포가 실제 훈련 데이터와 동일하고 판별 기는 G 또는 훈련 데이터에 대한 실제 훈련 데이터의 확률이 1/2이라고 판단합니다. 즉, G 생성 데이터는 D가 실제 데이터인지 전혀 판단 할 수 없을 정도로 충분히 현실적입니다.
GAN 네트워크의 손실은 다음과 같습니다.

1. 먼저 G가 고정되면 경사 하강 법 알고리즘에 따라 D 매개 변수를 조정하여 loss = V (D)가 커지도록합니다. x ~ pdata (x)의 경우 logD (x) = 0이고 x ~ pz (z) 일 때 log (1-D (G (z))) = 0은 손실 ​​함수의 최대 값입니다.
2. 그런 다음 D가 고정되면 G 매개 변수를 조정하여 V (G)를 더 작게 만듭니다. G의 목적은 D (G (z))가 1에 가까워 지도록 데이터를 생성하는 것이므로 이때 V (G)는 위 공식에서 후자 만이 시점에서 log (1-D (G (z))는 V (G)의 최소값 인 음의 무한대가되는 경향이 있습니다.
3. 지속적으로 대체 최적화를 진행하고 있습니다. 생성기에서 생성 된 데이터의 확률 밀도 분포는 실제 학습 데이터의 확률 밀도 분포와 동일합니다. G 또는 학습 데이터에 대해 판별 기는 실제 학습 데이터의 확률을 1의 이상적인 경우로 판단합니다. / 2”(G, V 하위 네트워크 가정에서 피팅 능력은 무한합니다).

관련 이론적 도출은 또한이 "간접"생성 대결 모델이 "직접"생성 모델과 동일 할 수 있으며, 마지막으로 G 생성 데이터의 확률 밀도 함수를 실제 데이터의 확률 밀도 함수와 동일하게 만들 수 있음을 입증했습니다. 그러나이 "간접"대결 훈련은 "직접"생성 모델에 대한 실제 데이터의 확률 밀도 함수를 알 필요가 없습니다. 복잡한 데이터의 경우 일반적으로 분포의 확률 밀도 함수를 알 수 없기 때문입니다.