Facebook联合NYU探讨GANs原理 斩获一致好评的论文长啥样？

本篇文章1646字，读完约4分钟

据《雷技术评论》报道:2017年国际激光雷达展将于4月24日至26日在法国土伦举行，届时《雷技术评论》的编辑也将赴法国进行一线报道。在这次深入学习会议之前，雷锋。(公开号码:雷锋。com)还将围绕会议议程和论文介绍推出一系列报道和专题报道，敬请期待。

今天，雷锋。com将介绍iclr2017的口头报告和martin arjovsky和leon bottou的联合文章“迈向训练生成性对手网络的原则和方法”。本文不是介绍单一的算法或公式，而是对生成对抗网络的训练过程进行理论分析，以便读者更好地理解。为了讨论最终结论，本文描述了几个有针对性的实验来验证假设，解释要求和量化现象。本文主要分为三个部分。第一部分介绍了目前深度学习中存在的问题。第二部分分析和介绍了生成对抗网络训练中的不稳定性和饱和性问题；第三部分提出了理论联系实际解决问题的新方法。

自2014年蒙特利尔大学的ian goodfellow等学者提出生成性对抗网络(gans)以来，其生成“看似”真实图片的能力已得到业界的广泛认可。事实上，gans还可以用于解决许多其他问题，例如半监督学习、3d建模和语音合成和检测中的段落学习。然而，gans在训练中并不容易使用。最近，许多论文启发我们设计一个基于gans的相对稳定的模型。然而，目前基本上没有论文详细分析甘斯训练不稳定的真正原因，也没有办法从根本上解决这种不稳定。

《生成对抗网络的基本训练方法》一文介绍了其原理不稳定的真正原因。本文介绍了几个例子，并从公式和推理两个层面论证了gans训练的不稳定性。根据gans的基本引理和定理，鉴别器的训练越接近最优，噪声越急剧增加。从图中的噪声曲线还可以看出，随着训练的进行，噪声的多样性也在增加，最终导致鉴别器和发生器的缓慢统一，gans网络的稳定性也在下降。

为了解决gans网络的稳定性问题，提出了一种打破原理定律的方法——在鉴别器的输入端加入连续扰动噪声，平滑训练产生的噪声曲线。

卢民主力量评论:卢民主力量委员会最终决定

本文对训练gan网络时遇到的不稳定问题进行了详细的理论分析，并说明了用扰动噪声提高gan网络稳定性的原理。基于目前gan网络的广泛使用，本文应该会有很好的影响。

决定:通过(口头)

高质量论文的评价:通过这篇论文，我更好地理解了许多模型中gans失败的原因，并且通过阅读这篇论文，我知道了一个更好的方法来训练gans。根据本文提到的方法，我给gans网络添加了一些噪声。因此，与旧方法相比，我用更少的G迭代得到了一个非常好看的图片。同时，实验也证明了新训练的网络对超参数的敏感性较低。非常感谢你发表这篇论文。

很好的论文评价:我认为这篇论文很好地介绍和解释了gans。尽管之前已经提到过一些实验，但是gans的问题仅仅停留在“直观”的分析和非正式的修辞上。在这篇论文之前，没有一篇论文从理论上得到解释。这篇论文向学者们清楚地解释了问题的根源和为什么所提出的方案是可行的真正原因。这篇论文直接指出了gans之前被称赞的部分，我相信这对更大的gans的设计有着重要的意义。

好文章得分:8分，前50%，明确接受

评价:本文对认识对抗网络生成的训练过程很有帮助。通过分析动态gans网络的训练过程，解释了gans不稳定的原因。更重要的是，提出了一种通过引入干扰噪声来解决这一问题的新方法。我相信这篇论文会让更多对这个领域感兴趣的人加入到gans的研究中来。

得分非常有趣的文章:10分，前5%，研讨会类型的文章

评价:这是一篇非常有意义和重要的关于神经网络的文章。作者介绍的gans的原理和不稳定性是非常重要的。在我看来，这是关于甘斯最好的论文。因为它直接解决了第一版gans中的不稳定问题。你知道，在gans问世的早期，它的实用性几乎为零。

原始链接:openreview/forum？id=hk4_qw5xe &注意id = hk4 _ qw5xe

雷锋文章版权所有。严禁擅自转载。详情请参考转载说明。

来源：搜狐微门户