矩阵基础知识

1、矩阵基础知识贺国宏 编为了学好测绘工程专业的核心课程 测量平差基础 ，必须掌握以下所述矩阵的基础知识， 同时， 学习这些知识，对于学习测绘工程的其它课程，以及以后的深造，都是重要的。1、矩阵的秩定义：矩阵 A的最大线性无关的行 (列)向量的个数 r，称为矩阵 A 的行(列)秩。由于矩阵的行秩 等于列秩，故统称为矩阵的秩，记为R(A)。对于矩阵的秩有性质：R(AB) min R(A),R(B) (1)2、矩阵的迹定义 ：方阵 A 的主对角元素之和称为该方阵的迹，记为ntr(A)aii(2)i1对于矩阵的迹有下面的性质：(1)tr (A T)=tr (A)(3)(2)tr (A+B)=tr (A)

2、+tr (B)(4)(3)tr (kA)=k tr (A)(5)(4)tr (AB)=tr (BA)(6)3、矩阵的特征值和特征向量定义 ：对于 n 阶方阵 A ，若存在非零向量 ，使得Axx (7)则称常数 为矩阵 A 的特征值 (或特征根 )，而 称为矩阵 A 属于特征值 的特征向量。 由此可得( E A) 0 (8) 因此，该齐次线性方程有非零解的条件是f ( ) E A n an 1 n 1a1 a0 0 (9)称 E-A 为矩阵 A 的特征矩阵，而 f( ) 为矩阵 A 的特征多项式。显然，矩阵 A 的特征根 i(i 1,2, ,n) 为特征方程 (9)的根。应该指出，对于一般的实矩

3、阵 A ，特征根可能是复数，从而特征向量也是复数。以后将会看 到，对于实对称矩阵，其特征根和特征向量都是实的。这一点是很重要的。特征值和特征向量具有 下列性质：(1) 设 1, 2, , n为 n阶方阵 A 的 n个特征值，则：A K的特征值为 1k , k2 , , knA -1 的特征值为 11, 21, , n1(2) tr (A)= 1 2 nA 1 2 n(3) 矩阵 A 的属于不同特征值的特征向量是线性无关的。证 设 A 的互不相同的特征值为1, 2, , m ,其对应的特征向量分别为 1, 2， ,m。对m作归纳法，当 m=1，因1 0 ，结论显然成立。设 1,2， , k线性无

4、关，考虑 k+1 的 情况：设a11 a2 2ak k ak 1 k 1 0 (a)则A(a1 1 a2 2ak k ak 1 k 1 )= a1 1 1a22 2 ak k k ak 1 k 1 k 1 0 (b)a)k 1 (b)得：a1(k 11)1+a2( k 1 2)2+ak(k 1 k)k = 0由于 1,2, ,k 线性无关，故ai ( k 1 i) 0 i 1,2, ,k必有 ai 0 ,代入 (a)得ak 1 k 1 0由于 xk 1 0，则ak1 0，故a1,a2, ,ak1全等于 0，从而 1,2, , k 1线性无关。4、等价矩阵 (或相抵矩阵 )定义：若矩阵 A经过有

5、限次的初等变换化为矩阵 B，就称矩阵 A与B等价或称 A 与B相抵, 记为 AB 。按定义是说，若Pmpm-1P1AQ1Q2Qn=B式中 P1，P2，Pm；Q1，Q2， Qn，是初等矩阵 , 则称 AB。上式可简写为PAQ=B (10) 因此，此定义又可改为，若存在满秩方阵P和 Q，使 PAQ=B ，则称 AB。对于等价矩阵有下述性质：(1) 若 AB，则 R(A)=R(B)(2) 若 A 为可逆阵，则 AE(3) 对于 mn 阶矩阵 A，若 R(A)=r ，则存在可逆阵 Pmm 和 Qnn，使PAQ=Er 000(11)(4) 若 A 和 B 同阶，且 R(A)=R(B) ，则 AB证：由

6、(3)，存在可逆阵 P1，Q1； P2，Q2使Er 0Er0P1AQ1=P2BQ2=0 000故 P1AQ1 =P 2BQ2，即 P21P1AQ1Q21=B, 改写为 PAQ=B ，即 AB。5、满秩矩阵定义：若 n阶方阵 A 的秩 R(A)=n ，则称 A 为满秩方阵。若 mn阶矩阵 A 的秩 R(A)=m ，称 A 为行满秩阵；若 R(A)=n ，则称 A 为列满秩阵。对于任意一 mn 阶矩阵 A，若 R(A)=r ，则 A 可分解为A R S (12)m n m r r n其中， R 为列满秩阵， S 是行满秩阵。这种分解不是唯一的。 证：由(11), 存在可逆阵 Pmm和 Qnn，使P

7、AQ=Er 000改写为A=P-10Er00Q-1=nRrR1oErEr0rSS1n= RS6、幂等矩阵定义 ：称满足条件 A 2=AA=A 的方阵 A 为幂等矩阵。 幂等矩阵有下述重要性质：(1) 幂等矩阵 A 的特征值为 0 或 1。证：设为 A 的相应于特征向量为 的特征根， 则由 A , 得A AA A 2由此 ( 1) 0, 故必有0 或1(2) 幂等矩阵 A 的秩，等于它的迹，即R(A)=tr(A) (13) 证：设 R(A)=r ，由(12)A=RS其中， R、S 分别为列满秩阵和行满秩阵。由 A2=A，得RSRS=RS两边左乘 (RTR)-1RT，右乘 ST(SS T) -1

8、得， (RTR)-1RTRSRSST(SS T) -1=(RTR)-1RTRSST(SS T) -1 即 SR= Er 又因为tr(A)=tr(RS) =tr(SR)=tr(E r)= r 即 R(A)=tr(A)(3) 若方阵 A 为 R(A)=r 的幂等矩阵 ,则 E- A 也为幂等矩阵，且 R(E-A)=n-r 22证(E-A)2=E-2A+A 2=E-A ,由(13)式R(E-A)=tr(E-A)=n-tr(A)=n-r7、相似矩阵定义：设 A、B都是 n 阶方阵，若有可逆阵 P，使-1P-1AP=B(14)则称 B 是 A 的相似矩阵，或说 A 与 B 相似。对 A 进行运算 P-1

9、AP 称为对 A 进行相似变换， P 称为 把A变为 B的变换矩阵。若 P 满足 PTP=E ，即 P 是正交阵，则称以上的变换为正交相似变换。相似矩阵有以下性质：(1) 相似矩阵的特征值相同-1证 设 P-1AP=B ，则E B E P 1AP P 1( E A)P= P1 E AP E A(2) n 阶矩阵与对角矩阵相似的充要条件是 A 有 n 个线性无关的特征向量。 证 ：必要性 : 设-1P-1AP=diag( 1, 2 , , n)或 AP=Pdiag( 1, 2, , n)记P= 1 , 2 , , n则A 1 , 2 , , n1 , 2 , , n diag( 1, 2 n )

10、于是Aii i故 1 , 2 , , n 是对应于特征值 1, 2 , , n 的特征向量。由于 P 可逆，所以 1 , 2 , , n 线性 无关。必要性得证。上述步骤可逆，所以充分性也成立。8、对称阵定义 ：如果方阵 A=A T，则称 A 为对称矩阵。实对称矩阵有如下重要的性质：(1) 实对称矩阵 A 的任一个特征值及其特征向量都是实数和实向量。证 设 是 A 的任一特征值，则T T T T TT T TA (A)T( )TT ATT A式中， A， 为取共轭的意思，即把 A， 中的元素的虚部变换符号得到，故AT =A 。上式两边右乘x得TT T T T AT( ) 0T 由于 0 ，故

11、，即 是实数由于 A ， 都是实的，在由 (8)式求 时， 也是实的。(2) 实对称矩阵对应于不同特征值的特征向量是正交的。 证 设 A111A2 221 2则121 2 A1 (A2) 1221由于 1 2 故 T21 0，即 1与2正交。(3) 存在正交阵 C，使得CTAC=diag( 1, 2 , n ) (15) 证 ：用归纳法，当 n=1时,结论显然成立。假设 n-1 时成立，下面证明对 n也成立。 设 A 1 1 1,其中 1是长度为一的特征向量 ,现将 1 任意扩充为一组标准正交基1, 2, , n记2, , n , P1, 2, , n 1,显然 P 为正交阵 ,令1P 1AP

12、 B 或 AP PB由 A 1 1 1 ,将(a)改写为A 111 b110 Bn 1由于 BT (P 1AP)T PTAT(P 1)T P 1AP B 易知 b=0 即B 1 00 Bn 1据归纳法假设 ,存在正交阵 Q 使QTBn 1QB, B dia(g 2 , n)(a)(b)(c)0QT1CP0易证 C 是一个正交阵 ,且CTAC=diag( 1, 2 , n )这一结果对许多理论证明有重要作用。推论: 设 A 为 n阶对称矩阵 , 是 A 的特征方程的 r 重根,则R( E A) n r,从而 恰有 r 个线性无关的特征向量。证 由于 是 A 的特征方程的 r 重根 , 由(15)

13、式E diag , , , r 1,n) diag (0,0, ,0, r 1, , n)式中 r 1 0, , n 0, 故 R( E diag( , , , , r 1 n) n r 又由(15)式 E diag , , , r 1,n)E CT AC CT ( E A)C故 R( E A) R( E di a(g , , , , r 1n) n r由(8)式,解空间的维数为 n-(n- r)=r , 即 恰有 r 个线性无关的特征向量。(4) 若 A 为对称幂等矩阵，即 AT=A，A2=A，且R(A)=r ，则存在正交阵 C，使TEr 0C TAC= r (16) 00(5) 若 A 为

14、对称幂等阵，则 A 必为半正定阵。证 由 AA=A ，A=A T，得 A=A TA ，由后面二次型矩阵 A 为正定阵的判别法 c)可知是实。9、二次型和正定阵定义：设 f(x) T A ，式中 A=A T ，上式称为二次型， A 称为二次型矩阵。 若对于任意 0 n n n 1(1) T A 0, 称二次型是正定的， A 为正定矩阵，记为 A 0(2) TA 0, 称二次型是半正定的， A 为半正定矩阵，记为 A0(3) T A 0 , 称二次型是负定的， A 称为负定矩阵，记为 A0， T A a11 12 0( 10)假设 n-1时成立，下面证明对 n 也成立。 记 A= An 1 d 记

15、 A= TdT annCT= Ed dn1T An11C= En 1An 1dC=01CTAC= En1d An 10 An 11 d TdEn 1ann 0An11d1An 1 0 0 anndT An11d记作 0An 1 0a由于 CT AC CTC A An 1 a ,其中 A, An 1 均大于 0，故 a0因此，令 Cy，易知 0时， y 0 ， 记 z y1,y2, , yn 1 ，则二次型 TA yTCTACy zTAn 1z ay2n若 z =0， 则 yn 0, 从而 T A ayn2 0；TT若 y n 0 ，则 z 0，从而 A z An 1z 0 故 T A 0。 半

16、正定阵的情况可同法证明。c) 秩为 r 的实对称矩阵 A 是半正定的充分必要条件是 A=B TB ，其中 B 可以是方阵，也可以 是 r n 阶行满秩阵，若 B 为满秩方阵，则 A 是正定阵。证必要性: 由于 A 为半正定阵， ( 15)式成立，且 i 0 故 A=Cdiag( 1, 2 ,n)C T记作= C diag( 1 ， 2， n )diag( 1, 2 , n ) C T BTB 充分性 : 由 A=B TBTA (B)T(B) 0当B 为满秩方阵时，对于任意 0,B 0,从而TA0。 对于 B 为 r n 阶矩阵的情况，请自证之。 正定矩阵还有下列性质：a) 若 A 为正定阵，

17、P为任意可逆阵，则 PTAP 为正定阵。证 设 0 则 p 0，于是T pT Ap (p)T A(p)0故 PTAP 为正定阵b) 若 A 为正定阵，则 A-1 也为正定阵证 由 a) 知-1 T -1 -1(A-1)TA(A-1)=A -10c) A 的任意阶主子矩阵为正定矩阵，特别有aii0, (i=1,2, ,n)(17)d) 若 A 为正定阵，则 A 有唯一的分解式 TA=LLl11其中L=l12l 22 0ln1 ln2 l nn利用此分解式，可得递推式求出 l 11，l 21，l22由(17)式，还易求出-1 T -1 T -1 -1 -1 T -1A-1=(LL T)-1=(L

18、T)-1L-1=(L -1)TL-1(18)(18)式中 L-1 也是一个下三角矩阵 ,其元素也易由 L 的元素按递推公式求出。故正定矩阵的逆阵可由 式求出。在测量平差中需要求逆的矩阵基本都是正定阵。e) A0，则A= G2 ,G称为A的平方根阵,通常记为 A2 G, 则A A 12 A 12证：由于 A0，它的所有特征值 i 0(i 1,2, ,n) , 记d =diag( 1 ， 2 ， n )由于存在正交矩阵 C，使A=C diag( 1, 2, , n)CT =CddC T CdCT CdCT GG二次型用于数理统计中的几个重要定理a) 二次型的分布a.1) 设 N( ,E) ， y

19、T 的分布称为自由度为 n，非中心参数为 n1T 的 2 分布，记为 y 2(n, ) ,其密度函数为j0f (y) e 2j n j 1 y(2)jy2 j1e 2njj!22 j (n2 j)0 y 0, 则TA 2(R(A), T A )_E0E0 C1TCT= C1 C2T00nr00C2TA=C=C1C1(a)令 Cy ，则 y CT ,D(y) CTC En, y N(CT ,En)显然,把 y 分块：yy1y2 (n )C1TC2T(b) A y C ACy y 000 y y1T y1y1 N(C1 ,E ) ， 从而T y1 y1 2 (r, ) 证 1) 先证：若N( ,E

20、n) ，A为幂等对称阵， R(A)= r，则 TA 2( , TA ) n1由于 A 为对称幂等阵，故存在正交阵 C，使式中(C1T )T (C1T )TC1C1TT A即T A 2(r, T A )再证 1)：由于 为半正定阵，设 R( )= t , 则 QQT_nt令 QU, U N(0,Et), 易证： N( , ), 则(- )T A(- ) UTQT AQU 由于 A A A , 即QQ T AQQ TAQQ T QQT AQQ T再由于 Q是列满秩阵，等号两侧內外侧 Q, QT可约去 ,得 ntQT AQQ T AQ QT AQ上式说明 QT AQ为幂等对称阵 , 故R(QTAQ)

21、 tr(QTAQ) tr (AQQ T ) tr(A ) 再由前证 ,得 (- )T A(- ) UTQT AQU 2(R(A )这一定理由于不要求 0, 故应用非常方便。2) 可类似证之 ,请自证。b) 二次型的期望和方差b.1) 设 nE1( )x,D()x ,cov( , y ) xy , A 为 n阶对称矩阵，则n1 n1 m11) E(T A) tr(A x)xTA x(21)2) E(T Ay) tr(A xy)xT A y(22)证 证明上式第二式，由xTAy(x xx)T A(yy y)=(x)T A(yy) (xx)T A yxTA(yy)xTAY而E( x)T A(yy)

22、E tr( x)TA(y y)=E trA(yy)( x)T = tr AE(yy)( x)T= t r(A xy ) ;E(xx)T A 0 E xT A(yy) 0故E( T Ay)=tr(A xy)xT A y同理可证： E( T A)= tr ( A x)xT A xb.2) 设随机向量 N( , ), 0 则 T A, TB的方差和协方差为1) D(TA) 2tr(A A ) 4 T A A (23)2)cov(T A,TB) 2tr(A B ) 4 TA B (24)证 (1)式 因 0, QQT 又因 (QT AQ) T QTAQ ,设 R(A)=r, 则存在正交阵 C，使CT

23、QTAQ C diag( 1, 2, , r ,0 , ,0) d令 x=QC y , 则y CTQ-1 ,yN(CTQ 1 ,En), yi N(CTQ 1 )i,1) 且 rT A yTCTQTAQCy y Tdiag ( 1, 2 r, 0, ,0)yiyi2i12 T 1 2 由(20) 式D(yi2) 2 4(CTQ 1 )i 2 得rrD( T A )i2D(yi2)i22 4(CTQ 1 )i2i1 i 1r式中 2i2 2tr(dd) 2tr(CTQT AQC CTQTAQC) 2tr(A A )i1 rn4i2(CTQ 1 )i2 4i2(CTQ 1 )i2 4 T(Q 1)

24、TCddCTQ 1i 1 i14 T(QT) 1C CTQTAQC CTQTAQC CTQ 14 TA A代入 D(TA ) 中即得 23)式2) 可类似证之 ,请自证。c) 二次型的独立性c.1) 设随机向量 N( , ), 0 ,对于两对称阵 A 和 B,如果满足条件A B 0 或 B A 0则 T A与T B相互独立。c.2) 设随机向量 N( , )， 0,对于对称阵 A 和矩阵 B，如果满足条件 A B 0 则 A和 T B 相互独立。证 c.1)先证 : 对于对称阵 A 和 B,如果满足条件 AB 和B 对角化。= 0 , 则存在一正交矩阵C, 同时使 A首先 ,存在一正交阵 D,

25、 使DTBD BB11T12于是DT ABD DT ADD T BD0B11000BB11T12B12B22由于 为可逆阵 ,易得上式 B11 0 ,B12 0 , 即202B00DT AD再由于 B22为对称阵，存在一正交阵 G , 使GTB22GB为对称阵 , 令E0 CD0G易验证， C 即为所求的正交矩阵。再证c.1) 由于 为正定阵， 则QQT ,令 QU, U N(Q 1 ,E).则TA UTQT AQUTB UTQT BQU由于 QTAQQ TBQ QTA BQ 0 ,存在一正交阵 C, 使CTQT AQC 0CTQT BQC令U Cy, y CTU ,y N(CTQ 1 , E),此时TA UTQTAQUyTCTQT AQCyyy1 T0 yy1y1Ty20 y21同理可得 TB y2T B y2由于 y1,y2相互独立 ,故则 T A与T B相互独立。c.2) 可类似证之 ,请自证。 对于以上二次型的有关结论，在本课程中不一定都会用到，但对于以后的深造有用，故列入 其中。10、矩阵分块求逆ABMCD其中， A，D 为可逆方阵，则有若令A