过拟合

简明解释

过拟合（overfitting）是模型过度适应训练数据的偶然细节，以致在新数据上表现变差。一个记住训练答案的模型可在原题满分，却不能推广；因此评估须使用训练时未见的数据。[1, §3.1] 过拟合不等于数据泄漏：前者是泛化失败，后者是本不该出现的信息进入训练或选择过程；二者都可能造成虚高印象。

别和什么混淆

过拟合不等于数据泄漏：前者是泛化失败，后者是不该使用的信息进入拟合或选择；欠拟合则是连训练数据的主要规律也没有学好。

在本书中

见第4章：计算、数据与数学直觉及第9章：机器学习的基本逻辑。