申珊 主成分分析北京大学

1、申珊 00711091问题从高维向量开始。问题从高维向量开始。 文档分类特征向量 问题从高维向量开始。问题从高维向量开始。 文档分类特征向量 200维，2000维，20000维。问题从高维向量开始。问题从高维向量开始。 文档分类特征向量 200维，2000维，20000维。 降低维度可以大大降低时间空间代价问题从高维向量开始。问题从高维向量开始。 文档分类特征向量 200维，2000维，20000维。 降低维度可以大大降低时间空间代价 如何降维主成分分析主成分分析主成分分析 设法将原来变量重新组合成一组新的互相无关的几个综合变量，同时根据实际需要从中可以取出几个较少的综合变量尽可能多地反映原来

2、变量的信息的统计方法。 百度 一组坐标线性变换成另一组坐标，新坐标相互独立，选择新坐标中重要的维度，舍弃掉不重要的维度。 me衡量独立性衡量独立性协方差矩阵协方差矩阵 协方差 X,Y独立 协方差矩阵(, )()( )Cov X YE XE XYE Y( ,)( , )( ,)( , )Cov X XCov X YCov Y XCov Y Y(, )0Cov X Y 衡量独立性衡量独立性协方差矩阵协方差矩阵 协方差 X,Y独立 协方差矩阵(, )()( )Cov X YE XE XYE Y( ,)( , )( ,)0( ,)( , )0( , )Cov X XCov X YCov X XCov

3、Y XCov Y YCov Y Y线性变换(, )0Cov X Y 衡量独立性衡量独立性协方差矩阵协方差矩阵 协方差 X,Y独立 协方差矩阵 表示方差，越大，区分度越大，越重要(, )()( )Cov X YE XE XYE Y( ,)( , )( ,)0( ,)( , )0( , )Cov X XCov X YCov X XCov Y XCov Y YCov Y Y线性变换(, )0Cov X Y ( ,)Cov X X一点点线性代数。一点点线性代数。 矩阵对角化 S是特征向量矩阵，是特征值一点点线性代数。一点点线性代数。一点点线性代数。一点点线性代数。 矩阵A对于向量的作用，方向不变，乘以

4、一个常数！常数是矩阵A的特征值，向量是矩阵A的对应于的特征向量。 特征值是新坐标系该维度的方差，表征“重要性”；特征向量矩阵可以把属于原坐标系的向量投影到新的坐标系中。C语言实现语言实现OpenCV中的两个函数中的两个函数 计算特征值和特征向量cvCalcPCA(Vector1,AvgVector,EigenValue_Row,EigenVector,CV_PCA_DATA_AS_ROW)Vector1(n*m)，输入矩阵，n个重复，m个维度AvgVector(1*m)，均值向量矩阵，m个维度EigenValue_Row(n*1), 以列为主的特征值向量EigenVector(n*m), 特征向量矩阵CV_PCA_DATA_AS_ROW，以列为主C语言实现语言实现OpenCV中的两个函数中的两个函数 将原始向量投影在新的坐标系中cvProjectPCA(Vector1,AvgVector,EigenVector,Vector2)Vector1(n*m)，输入矩阵或向量，n个重复，m个维度AvgVector(1*m)，均值向量矩阵，m个维度EigenVector(n*m), 特征向量矩阵Vector3(n*n), 输出矩阵，n个维度C语言实现语言实现Op