核心概念

数据集偏移、分布外与漂移

训练与使用的联合分布不同、样本相对参考分布处于分布外,或分布随时间环境改变的相关但不同情形。

简明解释

数据集偏移(dataset shift)指训练与测试或使用阶段的输入—目标联合分布不同。分布外(out-of-distribution,OOD)是相对于声明的训练或参考分布而言的状态;分布漂移强调分布随时间或环境改变。三者相关而不完全同义。[1, Book description; Chapter 1 introductory definition][2, §2.4, Definition]

别和什么混淆

OOD不是所有普通预测错误的统称;一个训练分布内样本也可预测错,一个分布外样本也未必立即导致性能下降。必须先声明参考分布、变化对象和评价任务。

在本书中

第9章:机器学习的基本逻辑

本页参考来源

  1. Quiñonero-Candela J, Sugiyama M, Schwaighofer A, Lawrence N D, eds.. Dataset Shift in Machine Learning [M]. MIT Press, 2009. 定位:Book description; Chapter 1 introductory definition. 稳定来源(访问 )。
  2. Yang J, Zhou K, Li Y, Liu Z. Generalized Out-of-Distribution Detection — A Survey [J]. International Journal of Computer Vision, 2024. 定位:§2.4 “Out-of-Distribution Detection”, Definition. 稳定来源(访问 )。

相关概念