训练轮次

是什么

按训练方案遍历约一遍训练集的计数；具体口径受采样与分布式实现影响。 [1]

为何出现

只报更新次数难比较不同数据集规模，epoch提供相对数据量的训练进度。

如何工作

无放回且保留尾批时，$N$个样本和批量$B$通常每epoch有$\lceil N/B\rceil$个mini-batch；只有每个mini-batch恰执行一次step且没有梯度累积时，更新次数才相同。

能做什么与不能做什么

能描述数据遍历量；不能表示模型学会程度，更多epoch也可能过拟合。

在本书中

见第12章训练循环。