核心概念
降维
把高维数据映射到较少坐标,以保留特定结构并服务于压缩、去噪、计算或可视化的过程。
维度约简 降维方法
是什么
降维(dimensionality reduction)是把高维数据映射到较少坐标,以保留特定结构并服务于压缩、去噪、计算或可视化的过程。PCA保留线性方差,其他方法可强调局部邻域。[1, §§14.5–14.9]
为何出现
高维数据难以绘图、存储和估计距离,冗余坐标还可能增加下游计算与过拟合风险。
如何工作
实践者先声明要保留的结构与评价,再在训练数据拟合映射,将同一映射应用于新数据;线性投影、近邻图和自编码器对应不同目标。
能做什么与不能做什么
降维可减少坐标并揭示候选模式;不能同时无损保留所有距离、密度、类别和异常。特征选择保留原始变量子集,降维通常生成新坐标,两者也不相同。