核心概念

k近邻

依据距离找到训练集中最近的k个样本,并用其目标投票或平均的局部方法。

简明解释

k近邻(k-nearest neighbors,k-NN)寻找离新点最近的 kk 个训练样本,分类时投票、回归时平均。距离度量、特征缩放和 kk 都决定“邻居”是谁;高维中局部邻域会变稀,训练简单不等于无需验证。[1, §§2.3.2, 2.5]

别和什么混淆

k均值是无监督聚类;k-NN使用带目标的邻居作预测。

在本书中

第10章:监督学习

本页参考来源

  1. Hastie T, Tibshirani R, Friedman J. The Elements of Statistical Learning — Data Mining, Inference, and Prediction [M]. Springer, 2009. Second edition. 定位:§§2.3.2, 2.5. DOI稳定来源(访问 )。

相关概念