核心概念
经验风险最小化
在候选模型中选择使有限训练样本平均损失尽量小的参数或函数。
ERM 经验风险最小化原则 经验风险最小化法
简明解释
经验风险最小化(empirical risk minimization,ERM)是在预先给定的候选集合中选择使有限训练样本平均损失最小的参数或函数;若最小值不存在或实际优化未达到它,须改报近似目标与容差。训练集中三次损失为4、1、9时,经验风险为14/3;这只概括已见样本,不能单独保证未来表现。[1, Chapter 2, §2.2, eqs. (2.2), (2.4)]
别和什么混淆
经验风险只概括已见样本;总体风险是目标分布下的期望损失,测试误差则是另一批有限样本的估计,三者不能互换。
在本书中
本页参考来源
- Shalev-Shwartz S, Ben-David S. Understanding Machine Learning — From Theory to Algorithms [M]. Cambridge University Press, 2014. 定位:Chapter 2, §2.2, especially eqs. (2.2), (2.4). 稳定来源(访问 )。