核心概念

经验风险最小化

在候选模型中选择使有限训练样本平均损失尽量小的参数或函数。

简明解释

经验风险最小化(empirical risk minimization,ERM)是在预先给定的候选集合中选择使有限训练样本平均损失最小的参数或函数;若最小值不存在或实际优化未达到它,须改报近似目标与容差。训练集中三次损失为4、1、9时,经验风险为14/3;这只概括已见样本,不能单独保证未来表现。[1, Chapter 2, §2.2, eqs. (2.2), (2.4)]

别和什么混淆

经验风险只概括已见样本;总体风险是目标分布下的期望损失,测试误差则是另一批有限样本的估计,三者不能互换。

在本书中

第9章:机器学习的基本逻辑

本页参考来源

  1. Shalev-Shwartz S, Ben-David S. Understanding Machine Learning — From Theory to Algorithms [M]. Cambridge University Press, 2014. 定位:Chapter 2, §2.2, especially eqs. (2.2), (2.4). 稳定来源(访问 )。

相关概念