核心概念

降维

把高维数据映射到较少坐标,以保留特定结构并服务于压缩、去噪、计算或可视化的过程。

是什么

降维(dimensionality reduction)是把高维数据映射到较少坐标,以保留特定结构并服务于压缩、去噪、计算或可视化的过程。PCA保留线性方差,其他方法可强调局部邻域。[1, §§14.5–14.9]

为何出现

高维数据难以绘图、存储和估计距离,冗余坐标还可能增加下游计算与过拟合风险。

如何工作

实践者先声明要保留的结构与评价,再在训练数据拟合映射,将同一映射应用于新数据;线性投影、近邻图和自编码器对应不同目标。

能做什么与不能做什么

降维可减少坐标并揭示候选模式;不能同时无损保留所有距离、密度、类别和异常。特征选择保留原始变量子集,降维通常生成新坐标,两者也不相同。

在本书中

见第11章PCA以及t-SNE/UMAP边界。

本页参考来源

  1. Hastie T, Tibshirani R, Friedman J. The Elements of Statistical Learning — Data Mining, Inference, and Prediction [M]. Springer, 2009. Second edition. 定位:§§14.5–14.9. DOI;稳定来源(访问 )。

相关概念