基于多条件对抗和梯度优化的生成对抗网络
2021-10-13李响严毅刘明辉刘明
电子科技大学学报 2021年5期
关键词:模型
李响,严毅,刘明辉,刘明
(电子科技大学计算机科学与工程学院 成都 610054)
生成对抗网络(generative adversarial nets,GAN)[1]是受零和博弈的思想启发而提出的一种新颖的生成模型框。它由一个生成网络与一个判别网络组成,通过让两个神经网络相互博弈、相互对抗的方式进行学习,最终达到纳什均衡。GAN 通常用于生成以假乱真的图片[2]、影片、音频[3]、3D 模型、文本[4]等等,在诸多领域都取得了显著的成效。
尽管如此,GAN 还有一些突出的问题有待研究,比如模式崩溃问题。普遍的看法是因为数据的支持和生成的分布是不相交的或位于低维流形中[5]。根据Monge-Ampere 方程的正则性理论,如果目标度量的支持是断开的或只是非凸的,则最优转换映射是不连续的。而通用DNN只能近似连续映射,这种内在冲突导致了模式崩溃[6]。对于这个问题,前期也有很多研究,如通过优化使得网络具有更加优异的学习能力,从而能够学习具有一般性的特征,而不是集中于某种特异性特征;或是通过控制损失函数,逼迫模型学习更多类型的特征。本文从多生成器博弈的角度出发,通过对现有的多生成器模型的一系列改进来促使不同的生成器生成不同的模式数据,达到有效解决模式崩溃问题的目的。现有的多生成器模型的基本思路都是使用多个生成器的联合分布去模拟样本的真实分布,多个生成器网络参数共享或者不进行共享,通过引入分类器来最大化各个生成器生成数据的JS 散度,强制不同生成器去捕获不同的模式,取得了较好的效果。……
登录APP查看全文
