生成采样

简明解释

生成采样（sampling）是在推断阶段依据模型的概率分布选择输出。对自回归模型，它通常指从每一步的下一项分布取一个候选、追加到前缀并继续；对扩散模型，则还涉及初始噪声和反向过程中的随机选择。本词条说的是生成阶段的采样，不是调查统计中从总体抽取受访者或数据记录的统计抽样。

为何出现

生成模型给出的往往是一整个分布，而用户最终需要一个或若干具体结果。始终取局部最大概率项会得到确定路径，却可能出现重复或退化；保留随机性可探索多个候选，但也会增加结果差异。Holtzman 等人比较了最大似然式解码、无截断采样、top-$k$与核采样，说明解码规则本身会显著改变生成文本。[1, Abstract, §§1 and 3, Figure 1]

如何工作

纯随机采样按所有候选的归一化概率抽取；top-$k$先只保留概率最高的$k$项，核采样（top-$p$）保留累计概率达到阈值$p$的最小候选集合，再归一化抽取。贪心解码每步取最大概率项，束搜索保留若干高分前缀，严格说并非随机采样。随机种子可帮助复现实验，但只有模型版本、完整条件、算法和参数也固定时才有意义。[1, §3.1 and Table 1]

能做什么、不能做什么

采样能在模型已分配概率的候选间控制多样性，并一次产生多个候选供筛选。它不会补充训练中没有形成的可靠知识，也不能验证事实、来源或版权。截断过强可能遗漏合适候选，无截断或高随机性可能选到低质量尾部；最合适的规则必须按任务、模型和失败成本评估。

相关章节

生成采样、温度与后处理的关系见第17章：生成式 AI 与基础模型；语言模型的 token 级解码见第18章：大语言模型，统计抽样背景见第4章：计算、数据与数学直觉。