首师多元统计分析

1、多元统计分析崔恒建（首都师范大学）云南大理大学，2015.7首都师范大学统计系欢迎您！在这里师资一流，平台齐全气氛和谐，地理优越第一章 绪论第二章 多元正态分布第三章 判别分析第四章 聚类分析第五章 主成分分析第六章 因子分析第七章 典型相关分析第一章绪论1.1矩阵及其运算1.2行列式1.3矩阵的逆1.4矩阵的秩1.5特征值、特征向量和矩阵的迹1.6正定矩阵和非负定矩阵21p1p 2 a11a12a1q 2q apq aa a22aapq矩阵： A a1 a2 p ap维列向量：a q维行向量： a=(a1,a2,aq)2iji, ja12pa2 a2 a2向量a的长度： aaa 单位向量：矩

2、阵A的模：a 1零矩阵，A=0。方阵，对角线元素，非对角线元素。上三角矩阵，下三角矩阵。对角矩阵，记A=diag(a11,a22,app)。p阶单位矩阵，记A=Ip或A=I。若将矩阵A的行与列互换，称为A的转置，记作A，即若A=A，则称A为对称矩阵。显然，aij=aji。121q2qap1 p 2 apq A aa a11a21 a22aa1.1 矩阵的运算若A=(aij)：pq，B=(bij)：pq,A与B的和定义为A+B=(aij+bij)：pq若c为一常数，A的积定义为cA=(caij)：pq若A=(aij)：pq，B=(bij)：qr,A与B的积定义为q k 1AB aik bkj ：

3、p r(1)(A+B)=A+B。(2)(AB)=BA。(3)A(B1+B2)=AB1+AB2。(4)(5)c(A+B)=cA+cB。kkii i1i1ABAB 。若两个p维向量a和b满足ab=a1b1+a2b2+apbp=0则称a和b正交。若方阵A满足AA=I，称A为正交矩阵。若方阵A满足A2=A，则称A为幂等矩阵。对称的幂等矩阵称为投影矩阵。矩阵的分块设A=(aij)：pq,将它分成四块，表示成其中A11：kl，A12：k(ql)，A21：(pk)l，A22：(pk)(ql)。若A和B有相同的分块，则A A11A12 2122 AA21212222 B12 A B A11 B11A12 A

4、BA B若C为qr矩阵，分成其中C11：lm，C12：l(rm)，C21：(ql)m，C22：(ql)(rm)，则有2122 C12 C C11 CC2122 2122 A12 C11C12 AC A1122212111 A11C11 A12C212112 A C AC AC2222 A11C12 A12C22 AC ACAC1.2 行列式p阶方阵A=(aij)的行列式定义为1 2p1pjpa1j a2j a12j j jA j1 j2 jp这里 表示对1,2,p的所有排列求和，j1 j2 jp(j1j2jp) 是排列j1,j2,jp中逆序的总数。行列式基本性质(1)若A的某行(或列)为零，则

5、|A|=0。(2)|A|=|A|。(3)若将A某一行(或列)乘以常数c，则所得矩阵行列式为c|A|。(4)若A是一个p阶方阵，c为一常数，则|cA|=cp|A|。(5)若A的某一行(或列)是其他一些行(或列)的线性组合，则行列式为零。(6) 若A和B均为p阶方阵，则|AB|=|A|B|。(7) |AA|0。(8) 若A与B都是方阵，则ACA0AB0BCB(9) 若A：pq，B：qp，则|Ip+AB|=|Iq+BA|1.3矩阵的逆若方阵A满足|A|0，则称A为非退化方阵；若 |A|=0，则称A为退化方阵。设A=(aij)是一非退化方阵，若方阵C满足AC=I，则称C为A的逆矩阵，记为C=A1。逆矩

6、阵基本性质(1) AA1=A1A=I。(2) (A)1=(A1)。(3) 若A和C均为p阶非退化方阵，则(AC)1=C1A1(4) |A1|=|A|1。(5) 若A是正交矩阵，则 A1=A。(6) 若A和B为非退化方阵，则1 A 0B A10 1 00B1.4矩阵的秩矩阵A的线性无关行向量的最大数目称为行秩，其线性无关列向量的最大数目称为列秩。矩阵的行秩和列秩必相等，故称为A的秩，记 rank(A)。矩阵秩基本性质(1) 若A为pq矩阵, 且A0，则 1rank(A)minp,q(若rank(A)=p,则称A为行满秩的；若rank(A)=q,则称A为列满秩的)。(2) p阶方阵A是非退化的，当

7、且仅当rank(A)=p(称作A满秩)。(3) rank(AA)=rank(AA)=rank(A)。1.5 特征值、特征向量和矩阵的迹一、特征值和特征向量二、矩阵的迹一、特征值和特征向量设A是p阶方阵，若对于一个数，存在一个p维非零向量x，使得Ax=x，则称为A的一个特征值或特征根，而称x为A的属于特征值的一个特征向量。|AI|是的p次多项式，称为特征多项式。有p个根 1,2,p，可能为实数或为复数，存在一个p维非零向量xi，使得(AiI)xi=0即i是A的一个特征值，而xi是相应的特征向量。特征值和特征向量基本性质(1)A和A有相同的特征值。(2)若A和B分别是pq和qp矩阵，则AB和BA有

8、相同的非零特征值。(3)若A为实对称矩阵，则A的特征值全为实数，p个特征值表示为12p。若ij，则相应的特征向量xi和xj必正交。(4)pA i。i1例若A为幂等矩阵，则A的特征值为0或1；若A为正交矩阵，则A的特征值为1或1。(5) 若A为p阶对称矩阵，则存在正交矩阵T及对角矩阵=diag(1,2,p)，使得pA=TT记T=(t1,t2,tp)，1,2,p是A的p个特征值，而t1,t2,tp为相应的(一组正交单位)特征向量。A=TT i ti tii1称之为A的谱分解。(6) 若A为pq实数矩阵，则存在p阶正交矩阵U和q阶正交矩阵V，使得A=UV其中的(i,i)元素i0，i=1,2,min(

9、p,q)，其他元素均为零。正数i称为A的奇异值，上述分解式称为奇异值分解。由A=UV知，AA=U2U，AA=V2V ，于是AAui=i ui，i=1,2,p2AAvi=i2vi，i=1,2,q即是 AA的p个特征值，u1,u2,up 是相应的特征向量；是AA 的q个特征值，v1,v2,vq 是相应特征向量。222222p12kk 1k 2, , 0 22222212kk 1k 2q, , 0 二、矩阵的迹A的迹，记tr(A)，tr(A)=a11+a22+app迹具有基本性质：(1)tr(AB)=tr(BA)。(2)tr(A)=tr(A)。(3)tr(A+B)=tr(A)+tr(B)。(5) 设

10、1,2,p为方阵A的特征值，则tr(A)=1+2+p(6) 若A为投影矩阵，则tr(A)=rank(A)2pqijai1j1(4) 设A=(aij)为pq矩阵，则trA A trAA1.6正定矩阵和非负定矩阵若对一切x0，有xAx0，则称A为正定矩阵，记作A0；若对一切x，有 xAx0，则称A为非负定矩阵，记作 A0。对非负定矩阵A和B，AB表示AB0；AB表示AB0。正定矩阵和非负定矩阵基本性质(1) 设A是对称矩阵，则A是正定(或非负定)矩阵，当且仅当A的所有特征值均为正(或非负)。(2) 设A0，则A的秩等于A的正特征值个数。(3) 若A0(或0)，则|A|0(或0)。(4) BB0。(5) 设A0是p阶秩为r的矩阵，则存在一个秩为r(即列满秩)的pr矩阵B，使得A=BB。(6) 若A是p阶对称