维归约学习教案

1、会计学1维归约维归约第一页，共26页。第1页/共26页第二页，共26页。第2页/共26页第三页，共26页。第3页/共26页第四页，共26页。第4页/共26页第五页，共26页。第5页/共26页第六页，共26页。第6页/共26页第七页，共26页。这里(zhl)是FinalData(10*1) = DataAdjust(10*2矩阵)特征向量得到结果是这样，就将原始(yunsh)样例的n维特征变成了k维，这k维就是原始(yunsh)特征在k维上的投影。第7页/共26页第八页，共26页。第8页/共26页第九页，共26页。第9页/共26页第十页，共26页。因子分析是从假设出发，它是假设所有的自变量x出现

2、的原因是因为背后存在一个潜变量z,也就是我们所说的因子，在这个(zh ge)因子的作用下，x可以被观察到。什么意思呢，举个例子，比如一个学生考试，数学，化学 ，物理都考了满分，那么我们认为这个(zh ge)学生理性思维较强，理性思维就是一个因子。在这个(zh ge)因子的作用下，偏理科的成绩才会那么高。第10页/共26页第十一页，共26页。z, 的均值为0，且相互(xingh)独立，故cov(z, )=0第11页/共26页第十二页，共26页。多维定标多维定标(dn bio) MDS已知很多样本点之间的相互距离（以欧式距离为例），但是(dnsh)不知道每个样本点的具体坐标，MDS分析就是要求解出

3、每个样本点的原始坐标，然后保证这些样本点的原始坐标尽量符合这个距离矩阵关系。第12页/共26页第十三页，共26页。第13页/共26页第十四页，共26页。第14页/共26页第十五页，共26页。第15页/共26页第十六页，共26页。第16页/共26页第十七页，共26页。2第17页/共26页第十八页，共26页。第18页/共26页第十九页，共26页。第19页/共26页第二十页，共26页。第20页/共26页第二十一页，共26页。邻近点：直接计算邻近点之间的欧式空间距离邻近点：直接计算邻近点之间的欧式空间距离远距离的点：计算邻近点之间的最短距离连接远距离的点：计算邻近点之间的最短距离连接成的序列，如右图所

4、示，要计算空间中远距离成的序列，如右图所示，要计算空间中远距离的亮点的亮点1 1与与9 9，计算，计算1 1到到9 9的最短路径的最短路径1 1、2 2、3.93.9，沿着路径依次类推直到到达，沿着路径依次类推直到到达(dod)(dod)目的地目的地9 9（根据流形中的全局非线性和局部线性属性）（根据流形中的全局非线性和局部线性属性）第21页/共26页第二十二页，共26页。局部(jb)线性嵌入 LLE局部(jb)线性嵌入与Isomap不同,Isomap是保持近邻样本之间的距离不变。 但是局部(jb)线性嵌入试图保持领域内样本之间的线性关系不变。 第22页/共26页第二十三页，共26页。此算法我

5、们首先要寻求(xnqi)每个数据点的k个最近邻，然后将当前数据点用k个最近邻线性表出，那么就有相对的权重系数。 我们希望数据在降维后数据点之间依然能保持这种线性表出的关系，并且在满足另外一些约束条件的前提下，我们很容易求得降维后的数据。 第23页/共26页第二十四页，共26页。拉普拉斯特征(tzhng)映射 LE Laplacian Eigenmaps看问题的角度和LLE十分相似。它们都用图的角度去构建数据之间的关系。图中的每个顶点(dngdin)代表一个数据，每一条边权重代表数据之间的相似程度，越相似则权值越大。并且它们还都假设数据具有局部结构性质。LE假设每一点只与它距离最近的一些点相似，再远一些的数据相似程度为0，降维后相近的点尽可能保持相近。 而LLE假设每一个点都能通过周围邻域数据的线性组合来描述，并且降维后这一线性关系尽可能保持不变。第24页/共26页第二十五页，共26页。 上图所示左边(zu bian)的图表示有两类数据点（数据是图片），中间图表示采用拉普拉斯特征映射降维后每个数据点在二维空间