生成对抗网络的未解之谜

编辑：马青禾

首发平台：AI之星网

在生成对抗网络（GANs）的研究领域，尽管过去两年取得了显著进展，但许多关键问题仍亟待解答。本文旨在探讨GANs及其相较于其他生成模型（如流模型与自回归模型）的基本特性、其模型能力以及应用场景等方面的开放问题，鼓励进一步研究。

1. GAN与其他生成模型的基本权衡
目前，有两种涌现的生成模型类型——流模型与自回归模型。尽管这两者与GAN在性能上的表现存在差异，明确这些特征及其内在原因仍需深入探讨，例如如何评价这些模型的计算成本等。初步对比显示，GAN的训练成本显著低于流模型。通过对大规模数据集的具体实例分析，流模型的计算需求显著高于GAN，这引发了我们对流模型本身效能与特征的重新审视。

2. GAN能建模的分布类型
当前GAN研究的主要焦点在图像合成，但对其在更广泛分布上的建模能力了解不足。因此，我们需要探索给定分布时，GAN模型的难易程度和模型的具体表现形式，以期实现简单的理论模型，为不同类型数据集建立更清晰的预测模型。

3. GAN的应用扩展
除了图像合成外，文本、结构化数据和音频等领域也在探索GAN的应用潜力。尽管GAN对音频的生成已经显示出潜在的成功，但GAN如何在非图像数据上的应用上实现与图像领域相似的成功仍然面临挑战。所需的新技术与隐式先验的开发如能得到有效迭代，将可能推动GAN的应用向围绕文本及结构化数据等新领域的扩展。

4. GAN训练的全局收敛性
GAN的训练与其他神经网络有所不同，因其生成器与判别器的优化目标完全相反。尽管已有的研究提供了一些全局收敛性的证明，但仍需寻求策略以有效应对同时优化导致的困难。如何简化参数假设及应用深度学习中常规神经网络的技术，都是解决此问题的可行研究路径。

5. GAN的评估方法
尽管现有多种评估GAN的建议，如Inception Score与FID等，但普遍缺乏共识，因此我们需要探索何时使用GAN以及在何种背景下进行评估。不可否认，GAN擅长处理具有感知特征的任务，例如图像合成、转换和填充等。因此，基于人类判断的评估尽管费用高昂，却能提供更有效的反馈。

6. 大批量训练的可扩展性
在大批量训练中，GAN是否能借助并行硬件实现更高效的训练仍待探讨。此时，因大批量训练带来的噪音可能影响GAN的训练，而找出适应大批量数据的训练方法则是未来研究的重要方向。