生成对抗网络

简明解释

生成对抗网络（generative adversarial network，GAN）让生成器$G$把噪声映成候选样本，让判别器$D$学习区分训练数据与生成样本；二者通过对抗目标交替优化。原论文把它表述为一个极小极大博弈。[1, Abstract, §2 and Equation (1)]

为何出现

一些生成模型需要显式计算复杂概率密度或近似难算的后验。GAN 改为训练一个可直接取样的生成器，并让判别器提供学习信号，从而能够在不为每个样本显式给出正规化似然的情况下拟合数据分布。

如何工作

每轮训练中，判别器看真实样本和生成器样本并提高区分能力；生成器则调整参数，使生成样本更难被判别器识别。原论文在无限容量、达到全局最优等理想条件下证明，生成分布等于数据分布时达到理论解；Algorithm 1 给出交替更新过程。[1, Algorithm 1, §4 and Proposition 1]

能做什么、不能做什么

GAN 能生成图像等样本，也可用于条件生成和表示学习。生成器部署时通常取样较快，但实际有限网络和非凸优化不保证到达理论均衡，训练可能不稳定或发生模式坍塌，只覆盖数据分布的一部分。训练中的判别器不是面向任意图片或事实的通用“真假鉴定器”，逼真输出也不证明无复制、无偏见或有合法来源。

相关章节

GAN在四条生成路线中的位置、对抗目标、隐式模型及与 VAE、扩散模型的区别见第17章：生成式 AI 与基础模型；神经网络训练基础见第5章：机器学习基础。