生成对抗网络中译版方法部分_第1页
生成对抗网络中译版方法部分_第2页
生成对抗网络中译版方法部分_第3页
生成对抗网络中译版方法部分_第4页
生成对抗网络中译版方法部分_第5页
全文预览已结束

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

一个可表达的生成器参数后验分布,BayesianGAN避免了模式崩溃问题,并产SVHN,CelebA,CIFAR-103GANs和DCGANensembles。成对抗网络(generativeadversarialnetworks,GANs)(Goodfellowetal.,2014)和变分自编码(variationalautoencoders)(KingmaandWelling,2013)算法已经在该GANs通过一个深度神经网络将白噪声转化为一个从某一数据分布中产生的候compositionmetrics(此,使用了卷积神经网络的GANs反过来能够在图像上生成较好的隐含分布distribtionGANscollapse的可能性(原文:weachieveinfinitelikelihood(译者注:意思可能是:能够拟whichisnotusefulforageneralizabledensityestimate(译者注:意思可能是:模型缺少泛化能力GANs的训练过程中需要很大程度的人为介入,包matchingsmoothingbatchdiscrimination)(Radfordetal.,2015;Salimansetal.,2016)。为了缓解这些实f散度(Nowozinetal.,2016)Wasserstein散度(Arjovskyetal.,我们也很难确定应该用哪种散度指标进行GANs的训练。获得改善。确实,生成器的参数的后验分布可能是广泛且高度多模态的(multimodal(optimization)GAN训练过程总是将网络权重的整个后验分布都估计为以单一这一推断出来的数据分布便可以用来实现准确的,高数据效率(highlydata-(stochasticgradientHamiltonianMonteCarlo)方法实现生成器和判别器权重后验些基准数据集包括:SVHNMNISTCIFAR-10,CelebA。该方法的一个最大优Bayesian;dd式有无限种可能。生成器此刻是在表示数据分布上的分布(distributionoverdata(1从p(θg)中采样θ(2从p(z)中采样z(1),…,z(n)(3) 对于后验推断,我们在2.1-2.2节提出了无监督和半监督范式。Tranetal.(2017)中简要地提到了使用Karaletsos(2016Tranetal.(2017)则在该后验θg,θd的后验分布上做推断,我们可以分别从下面的条件后验分布中采和α。nn分别是判别器和生成器的小批量样本数。我们定义:X={x(i)}nd p(z)zG(z;θg)θd方程(1)θg附近区域的后验概率p(θg|z,θd)的值会相应增加(因此其他区域的值就会降低θd的后验分布,方程(2)的前两项构成了判别分类似然(discriminativeclassicationlikelihoodz:p(θd|z,X,θg)z的函数时,有理由认为它们的形式多种多样,因whenviewedasafunctionofz,shouldbereasonablybroadoverzbyconstruction,procedure我们应该注意的是,对于p(θd|θg)的近似会相对更差,这是因为它的依赖于方程θd的样本反过来会形成一个判别器联盟,这增强了整体的对抗信号,因此会检查其对半监督学习的影响,这是我们在第4节中试验的重点。GANK分类的半监督学习设n个无标签的观测样本,{x{i}},同时(通常是很少的数量)structure目的是在新的发测样本x*上获得比仅使用有标签数据训练时更好的类别预测结nsns≤n2.1节中一样,我们可以使用蒙特卡洛采样实现近似边缘化z的计算。GAN2.12.2节半监督学习给出的公(SGHMC(Che3(1)SGHMCSGD方法很像,而后(2速率和动量项)SGHMC中;最重要的一点是(3)将贝叶斯方法引入GAN推断的好处在于,它可以探索生成器权重的多模态分布,能做到这一点正是得益于SGHMC方法,它使得我们能够完全捕获数据分布的复杂性和熵(entropy(就能计算损失的梯度了。SGHMCHMC,使其能使用一种在大量批次中保证充分混合的方法利用这一梯度的噪声估计(原文:SGHMCextendsHMCtothecasewhereweusenoisyestimatesofsuchgradientsinamannerwhichguarant

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论