扩散模型

简明解释

扩散模型（diffusion model，DM）是一类把数据逐步扰动到易采样噪声分布，再学习反向转移以生成样本的模型。2015 年的工作用非平衡热力学构造正向扩散与反向生成过程；去噪扩散概率模型（denoising diffusion probabilistic model，DDPM）是其中影响广泛的一种参数化与训练方案。[1, Abstract and §§2–3][2, Abstract and §2]

为何出现

直接表示高维数据分布很困难。扩散方法把“从噪声到数据”的复杂变换拆成许多较小的概率转移，使训练可利用已知的加噪过程和可计算的目标，而不必一次完成整幅样本的生成。

如何工作

正向过程中，模型按预设噪声日程逐步给训练样本加噪；在标准 DDPM 中，每一步常是高斯转移。令$\bar\alpha_t=\prod_{s=1}^t(1-\beta_s)$时，常见噪声预测目标中的$\epsilon$是从$x_0$到$x_t$各步扰动合并而成的累计等效噪声，不是第$t$步刚加入的噪声；要让$x_T$接近标准高斯，还需噪声日程使$\bar\alpha_T$足够接近0。网络据此学习反向一步所需的均值、累计噪声或分数。生成时从随机噪声开始，按学习到的反向过程反复去噪，直至得到候选样本。DDPM 原文的 Algorithms 1–2 分别列出训练与采样过程。[2, §§2–3, Equations (2)–(4) and (11)–(14), Algorithms 1–2]

能做什么、不能做什么

扩散模型可生成或编辑图像、音频、视频及科学结构，并可接受文字、类别或结构条件。反向过程是在估计分布转移，不是从噪声里确定性地找回某张训练图；有限模型、有限步数和条件引导都会带来误差。它也不因采用加噪就自动避免记忆、偏见、事实错误或权利风险。采样步数和速度会随具体方法变化，“扩散模型必然慢”不是定义。

相关章节

正反向过程、DDPM 单步公式及与 GAN、VAE 的关系见第17章：生成式 AI 与基础模型；图像任务背景见第16章：计算机视觉。