PCA
主成分分析，一种统计降维方法，通过找到数据方差最大的投影方向来减少数据维度，在视觉模型可视化中用于将高维特征向量映射为可视化颜色
核心事实
时间轴 (近 90 天)
SVM显著受益于PCA降维，经过主成分分析处理后分类准确率明显提升
研究发现PCA对模型整体性能的贡献大于SMOTE
KNN最适合SMOTE与PCA结合的预处理方式
研究设计了四种混合预处理配置进行对比：仅归一化、SMOTE平衡、PCA变换、SMOTE与PCA结合
研究采用SMOTE合成少数类过采样技术和PCA主成分分析进行数据预处理
PCA 通过计算协方差矩阵的特征值和特征向量来找到数据的主要变化方向
协方差矩阵天然是半正定的，这一性质是主成分分析（PCA）和线性判别分析（LDA）的理论基础
几乎所有机器学习方法的底层都是线性代数，PCA本质是求解协方差矩阵的特征分解，神经网络前向传播是矩阵乘法，大语言模型注意力机制通过矩阵运算实现
PCA由Karl Pearson于1901年首次提出，后由Harold Hotelling在1933年发展完善
SVD的思想连接着PCA、LSA、矩阵补全、低秩近似等一系列机器学习核心技术，深度学习中的低秩适配（LoRA）是一种高效微调大模型的技术
还有 6 条时间轴事件
全部知识事实 (16)
PCA 降维通过对数据协方差矩阵做特征分解，找到数据方差最大的投影轴，从而在最大保留信息的前提下压缩维度
65%待验证SVD是PCA降维、推荐系统矩阵分解以及LoRA低秩适配微调方法的数学核心
60%待验证研究发现PCA对模型整体性能的贡献大于SMOTE
50%待验证研究采用SMOTE合成少数类过采样技术和PCA主成分分析进行数据预处理
50%待验证研究设计了四种混合预处理配置进行对比：仅归一化、SMOTE平衡、PCA变换、SMOTE与PCA结合
50%待验证SVM显著受益于PCA降维，经过主成分分析处理后分类准确率明显提升
50%待验证KNN最适合SMOTE与PCA结合的预处理方式
50%待验证PCA 通过计算协方差矩阵的特征值和特征向量来找到数据的主要变化方向
50%待验证协方差矩阵天然是半正定的，这一性质是主成分分析（PCA）和线性判别分析（LDA）的理论基础
50%待验证几乎所有机器学习方法的底层都是线性代数，PCA本质是求解协方差矩阵的特征分解，神经网络前向传播是矩阵乘法，大语言模型注意力机制通过矩阵运算实现
50%待验证PCA由Karl Pearson于1901年首次提出，后由Harold Hotelling在1933年发展完善
50%待验证SVD的思想连接着PCA、LSA、矩阵补全、低秩近似等一系列机器学习核心技术，深度学习中的低秩适配（LoRA）是一种高效微调大模型的技术
50%待验证PCA等价于对数据协方差矩阵进行特征值分解，若对中心化数据矩阵X进行SVD得到X=UΣVᵀ，则右奇异向量V就是PCA的主成分方向，奇异值的平方除以样本数就是各主成分对应的方差
50%待验证Swiss Roll数据集本质上是一张二维平面卷曲成三维螺旋卷的形态，其内在维度为2但嵌入在三维空间中，PCA降维会将螺旋不同层叠合
50%待验证主成分分析（PCA）同时涉及线性代数中的特征值分解和统计学中的方差最大化
50%待验证abliteration技术通过构造有害请求与正常请求对比数据集，用PCA或均值差异定位拒绝行为主方向向量，再通过投影从权重矩阵中正交消除，无需梯度更新或重训练，消费级GPU上数分钟即可完成
50%