GAN网络综述

生成式对抗网络综述报告人：申亚博时间：2017年12月7日CONTENTGAN的概念简介及提出背景GAN的理论与实现模型GAN的应用GAN的思考与前景CONTENTGAN的概念简介及提出背景GAN的理论与实现模型GAN的应用GAN的思考与前景GAN的概念简介及提出背景概念简介提出背景GAN(GenerativeAdversarialNetworks)，中文翻译为生成式对抗网络，是IanGoodfellow等在2014年提出的一种生成式模型.GAN的基本思想源自博弈论的二人零和博弈,由一个生成器和一个判别器构成,通过对抗学习的方式来训练.目的是估测数据样本的潜在分布并生成新的数据样本.概念简介提出背景GAN的概念简介及提出背景2001年，TonyJebara在毕业论文中以最大熵形式将判别模型与生成模型结合起来联合学习2007年，ZhuowenTu提出将基于boosting分类器的判别模型与基于采样的生成模型相结合，来产生出服从真实分布的样本。2012年，JunZhu将最大间隔机制与贝叶斯模型相结合进行产生式模型的学习。2014年，IanGoodfellow等人提出生成式对抗网络，迎合了大数据需求和深度学习热潮，给出了一个大的理论框架及理论收敛性分析。起源发展概念简介提出背景（一）人工智能的热潮（二）生成式模型的积累（三）神经网络的深化（四）对抗思想的成功GAN的概念简介及提出背景CONTENTGAN的概念简介及提出背景GAN的理论与实现模型GAN的应用GAN的思考与前景GAN的理论与实现模型GAN的基本原理GAN的学习方法GAN的衍生模型GAN的基本原理GAN的核心思想来源于博弈论的纳什均衡。它设定参与游戏双方分别为一个生成器(Generator)和一个判别器(Discriminator)，生成器的目的是尽量去学习真实的数据分布，而判别器的目的是尽量正确判别输入数据是来自真实数据还是来自生成器；为了取得游戏胜利，这两个游戏参与者需要不断优化，各自提高自己的生成能力和判别能力，这个学习优化过程就是寻找二者之间的一个纳什均衡。GAN的理论与实现模型GAN的基本原理GAN的理论与实现模型图1GAN网络基本原理图GAN的基本原理GAN的理论与实现模型图2常见的几种神经网络图3生成网络模拟GAN的基本原理GAN的理论与实现模型图4GAN网络形象化流程GAN的学习方法GAN的理论与实现模型首先,在给定生成器G的情况下,我们考虑最优化判别器D.GAN的学习方法GAN的理论与实现模型总之,对于GAN的学习过程,我们需要训练模型D来最大化判别数据来源于真实数据或者伪数据分布G(z)的准确率,同时,我们需要训练模型G来最小化log(1−D(G(z))).这里可以采用交替优化的方法:先固定生成器G,优化判别器D,使得D的判别准确率最大化;然后固定判别器D,优化生成器G,使得D的判别准确率最小化.当且仅当时达到全局最优解.训练GAN时,同一轮参数更新中,一般对D的参数更新k次再对G的参数更新1次.GAN的衍生模型GAN的理论与实现模型CGANEBGANInfoGANDCGANImprovedGANWGAN......GAN的衍生模型GAN的理论与实现模型（1）CGAN--条件生成对抗网络，为了防止训练崩塌将前置条件加入输入数据。图5条件生成对抗网络的结构（2）DCGAN--深度卷积生成对抗网络，提出了能稳定训练的网络结构，更易于工程实现。图6深度卷积生成对抗网络的结构GAN的衍生模型GAN的理论与实现模型（3）InfoGAN--信息最大化生成对抗网络，通过隐变量控制语义变化。图7InfoGAN的结构（4）WGAN--定义了明确的损失函数，对G&D的距离给出了数学定义，较好地解决了训练坍塌问题。图8WGAN的结构GAN的衍生模型GAN的理论与实现模型（6）ImprovedGAN--改进生成式对抗网络，提出了使模型训练稳定的五条经验。a.特征匹配（featurematching）b.最小批量判断（minibatchdiscrimination）c.历史平均（historicalaveraging）d.单边标签平滑（one-sidedlabelsmoothing）e.虚拟批量正则（virtualbatchnormalization）（5）EBGAN--基于能量的生成式对抗网络，从能量模型角度给出了解释。图9EBGAN的结构CONTENTGAN的概念简介及提出背景GAN的理论与实现模型GAN的应用GAN的思考与前景GAN的应用图像和视觉领域语音和语言领域其他领域作为一个具有“无限”生成能力的模型,GAN的直接应用就是建模,生成与真实数据分布一致的数据样本，GAN可以用于解决标注数据不足时的学习问题。其可以应用于：GAN的应用图像和视觉领域GAN能够生成与真实数据分布一致的图像。一个典型应用是利用GAN来将一个低清模糊图像变换为具有丰富细节的高清图像。用VGG网络作为判别器，用参数化的残差网络表示生成器，实验结果如图所示，可以看到GAN生成了细节丰富的图像。图10基于GAN的图像生成示例GAN的应用语音和语言领域a.用GAN来表征对话之间的隐式关联性，从而生成对话文本。b.用CNN作为判别器,判别器基于拟合LSTM的输出，用矩匹配来解决优化问题；在训练时，和传统更新多次判别器参数再更新一次生成器不同,需要多次更新生成器再更新CNN判别器。SeqGAN基于策略梯度来训练生成器。c.用GAN基于文本描述来生成图像，文本编码被作为生成器的条件输入，同时为了利用文本编码信息，也将其作为判别器特定层的额外信息输入来改进判别器，判别是否满足文本描述的准确率。GAN的应用其他领域除了将GAN应用于图像和视觉、语音和语言等领域，GAN还可以与强化学习、模仿学习等相合。a.有人提出用MalGAN帮助检测恶意代码，用GAN生成具有对抗性的病毒代码样本，实验结果表明基于GAN的方法可以比传统基于黑盒检测模型的方法性能更好。b.也有人提出了一个扩展GAN的生成器，用判别器来正则化生成器而不是用一个损失函数，用国际象棋实验示例证明了所提方法的有效性。GAN的应用外文期刊中文期刊CONTENTGAN的概念简介及提出背景GAN的理论与实现模型GAN的应用GAN的思考与前景GAN的思考与前景GAN的优点和意义GAN的缺陷GAN的发展前景GAN的思考与前景GAN的优点和意义（1）GAN对于生成式模型的发展具有重要的意义。a.GAN作为一种生成式方法，有效解决了可建立自然性解释的数据的生成难题。b.GAN的训练过程创新性地将两个神经网络的对抗作为训练准则并且可以使用反向传播进行训练，大大改善了生成式模型的训练难度和训练效率。c.GAN在生成样本的实践中，生成的样本易于人类理解。（2）GAN除了对生成式模型的贡献，对于半监督学习也有启发。GAN的思考与前景GAN的缺陷GAN虽然解决了生成式模型的一些问题，并且对其他方法的发展具有一定的启发意义，但是GAN并不完美，它在解决已有问题的同时也引入了一些新的问题。（1）GAN优化过程存在不稳定性，很容易陷入到一个鞍点或局部极值点上，即“崩溃模式现象”。（2）GAN作为以神经网络为基础的生成式模型，存在神经网络类模型的一般性缺陷，即可解释性差。（3）GAN模型需要提高延展性，尤其在处理大规模数据的时候。GAN的思考与前景GAN的发展前景瑕不掩瑜，GAN的研究进展表明它具有广阔的发展前景。如WGAN彻底解决了训练不稳定问题，同时基本解决了崩溃模式现象。未来研究方向可以是：（1）如何彻底解决崩溃模式并继续优化训练程。（2）关于GAN收敛性和均衡点存在性的理论推断。（3）如何将GAN与特征学习、模仿学习、强化学习等技术更好地融合,开发新的人工智能应用或者促进这些方法的发展。谢谢，请各位老师、同学建议与指正！