2016年, Alec Radford 等发表的论文 《深度卷积生成对抗网络》 (简称DCGAN, 论文网址:https://arxiv.org/abs/1511.06434)中,开创性地将卷积神经网络应用到生成对抗网络的模型算法设计当中,替代了全链接层,提高了图片场景里训练的稳定性。
DCGAN这篇论文展示了卷积层如何与GAN一起使用,并为此提供了一系列架构指南。这篇论文还讨论了 GAN 特征的可视化、潜在空间插值、利用判别器特征来训练分类器、评估结果等问题。在研究GAN过程中,推荐仔细阅读此论文
.
<<Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks>>DCGAN论文中对卷积神经网络的结构做了一些改变,以提高样本的质量和收敛的速度.
DCGAN的定义:
DCGAN就是将CNN和原始的GAN结合到了一起,生成模型和判别模型都运用了深度卷积神经网络的生成对抗网络。DCGAN将GAN与CNN相结合,奠定之后几乎所有GAN的基本网络架构。 DCGAN极大地提升了原始GAN训练的稳定性以及生成结果质量
。
DCGAN的改进:
DCGAN主要是在网络架构上改进了原始GAN,DCGAN的生成器与判别器都利用CNN架构替换了原始GAN的全连接网络,主要改进之处有如下4个方面:
- DCGAN的生成器和判别器都舍弃了CNN的池化层,判别器保留CNN的整体架构,生成器则是将卷积层替换成了反卷积层(ConvTranspose2d) ;
- 在判别器和生成器中使用了Batch Normalization(BN)层,这有助于处理初始化不良导致的训练问题,加速模型训练,提升了训练的稳定性 (要注意, 在生成器的输出层和判别器的输入层不使用BN层 );
- 在生成器中除输出层使用Tanh()激活函数,其余层全部使用ReLU激活函数;在判别器中,除输出层外所有层都使用LeakyReLU激活函数,防止梯度稀疏。这一点我们已在基础GAN中使用;
- 在生成器中除输出层使用Tanh()激活函数,其余层全部使用ReLU激活函数;在判别器中,除输出层外所有层都使用LeakyReLU激活函数,防止梯度稀疏。这一点我们已在基础GAN中使用
标签:02,判别,卷积,生成器,GAN,DCGAN,CNN From: https://www.cnblogs.com/zhaopengpeng/p/17016382.html