Principal Component Analysis
PCA 通过协方差矩阵特征值分解找最大方差方向,将高维数据投影到低维子空间实现降维。
用途
最常用的线性降维方法,去相关与特征提取。
机制
中心化数据,计算协方差矩阵 C=X^T X/(n-1),特征值分解取前 k 大特征值对应特征向量组成投影矩阵。等价于 SVD 截断。保留最大方差方向。
用例
- 数据降维
- 特征提取
- 可视化
PCA 通过协方差矩阵特征值分解找最大方差方向,将高维数据投影到低维子空间实现降维。
最常用的线性降维方法,去相关与特征提取。
中心化数据,计算协方差矩阵 C=X^T X/(n-1),特征值分解取前 k 大特征值对应特征向量组成投影矩阵。等价于 SVD 截断。保留最大方差方向。