工程矩阵理论(第6章-矩阵的广义逆)

主讲:张小向

http://

工程矩阵理论东南大学硕士研究生学位课程

第六章矩阵的广义逆第一节

广义逆及其性质

第二节

A+的求法

第三节

广义逆的一个应用第六章矩阵的广义逆§6.1广义逆及其性质§6.1广义逆及其性质一.Penrose方程与MP-逆定义6.1.1

Penrose方程

设A

s

n.若存在G

n

s满足(1)AGA=A;(2)GAG=G;(3)(AG)H=AG;(4)(GA)H=GA,则称G为A的广义逆(或Moore-Penrose逆,简称MP-逆).第六章矩阵的广义逆§6.1广义逆及其性质二.存在性与唯一性定理6.1.1

设A

s

n,则A有唯一的广义逆.证明:(存在性)根据定理4.2.6(奇值分解),存在酉矩阵U与V使得A=U

VH,

D

O

O

O

其中D=diag(

1,…,

r),

1,…,

r>0为AHA的特征值.令G=V

UH,

D1

O

O

O

n

s

则可直接验证G为A的广义逆.第六章矩阵的广义逆§6.1广义逆及其性质设X,Y满足(1)AXA=A=AYA;(2)XAX=X,YAY=Y;(3)(AX)H=AX,(AY)H=AY;(4)(XA)H=XA,(YA)H=YA,则X=XAX

=X(AX)H

=XXHAH

=XXH(AYA)H

=XXHAH(AY)H

=X(AX)H(AY)H

=XAXAY

=XAY

=XAYAY

=(XA)H(YA)HY

=(YAXA)HY

=(YA)HY

=YAY

=Y.(唯一性)第六章矩阵的广义逆§6.1广义逆及其性质注:A的广义逆记为A+.例1

(1)若A为可逆阵,则A+=A1.(2)O+=OT.例2

(1)(2)A+

O

O

B+

=,+A

O

O

B

O

B+A+

O=.+O

A

B

O

=(A+,O),+A

O

(A,O)+

A

O

+=.第六章矩阵的广义逆§6.1广义逆及其性质1100例3

设A=,求A+.解:令B=(1,1),B+=,x

y

则BB+B=B

=(1,1),(x+y)(1,1)=(B+B)H=B+B

=,x

x

y

y

=x

y

x

y

由此可得x=y=1/2.故B+=,1/21/2A+==(B+,O)+B

O

=.1/201/20第六章矩阵的广义逆§6.1广义逆及其性质定理6.1.2

设A

s

n,则

(1)(A+)+=A;(2)(AH)+=(A+)H;(3)(AT)+=(A+)T;(4)(kA)+=k+A+,三.A+的性质其中k,k1,k0,0,

k=0;k+=证明:根据Penrose方程直接验证.第六章矩阵的广义逆§6.1广义逆及其性质(5)AH=AHAA+=A+AAH;(6)(AHA)+=A+(AH)+,

(AAH)+=(AH)+A+;证明:(5)AHAA+=AH(AA+)H=(AA+A)H=AH.

A+AAH=(A+A)HAH=(AA+A)H=AH.(6)利用定理4.2.6(奇值分解),或根据Penrose方程直接验证.(AHA)A+(AH)+(AHA)=AHAA+(A+)HAHA

=AHAA+AA+A

=AHAA+(AA+)HA

=AHAA+A

=AHA;第六章矩阵的广义逆§6.1广义逆及其性质A+(AH)+(AHA)A+(AH)+=A+(A+)HAHAA+(AH)+

=A+AA+AA+(AH)+

=A+(AA+)HAA+(AH)+

=A+AA+(AH)+

=A+(AH)+;[(AHA)A+(AH)+]H=[(AH)+]H(A+)HAH(AH)H

=A+(AA+)HA

=A+(A+)HAHA

=(A+A)H

=[A+(AA+)A]H

=A+AA+A

=A+A

=AH(AA+)H(A+)H=AHAA+(A+)H

=(AHA)A+(AH)+;[A+(AH)+(AHA)]H=AH(AH)H[(AH)+]H(A+)H

=AH(AA+)H(A+)H

=AHAA+(A+)H

=(A+A)H

=A+(AA+)A

=[A+(AA+)A]H

=A+(AA+)HA

=A+(A+)HAHA=A+(AH)+(AHA).=A+A

第六章矩阵的广义逆§6.1广义逆及其性质(7)A+=(AHA)+AH=AH(AAH)+;(8)(UAV)+=VHA+UH,

其中U,V为酉矩阵;(9)A+AB=A+AC

AB=AC.证明:(7)(AHA)+AH=A+(AH)+AH=A+(A+)HAH

=A+AA+

=A+(AA+)H

=A+.AH(AAH)+=AH(AH)+A+=AH(A+)HA+=…(8)利用定理4.2.6(奇值分解),(9)(

)A+AB=A+AC

AB=AA+AB=AA+AC=AC.第六章矩阵的广义逆§6.1广义逆及其性质证明:XR(A)定理6.1.3

设A

s

n,则

(1)AA+X=X,XR(A),0,XK(AH);

Y

n

s.t.X=AY

AA+X=AA+AY=AY=X.XK(AH)

AHX=0

AA+X=(AA+)HX=(A+)HAHX

=0.第六章矩阵的广义逆§6.1广义逆及其性质(2)A+AX=X,XR(AH),0,XK(A);证明:XR(AH)

Y

s

s.t.X=AHY

A+AX=A+AAHY

XK(A)

AX=0

A+AX=0.=(A+A)HAHY

=(AA+A)HY

=AHY=X.第六章矩阵的广义逆§6.1广义逆及其性质(3)R(A)=R(AA+)=R(AAH)=K(I

AA+);证明:XR(A)

Y

n

s.t.X=AY

X=AA+AYR(AA+),可见R(A)R(AA+),XR(AA+)

Y

s

s.t.X=AA+Y

XR(A),可见R(AA+)R(A),综合上述两个方面可得R(A)=R(AA+).第六章矩阵的广义逆§6.1广义逆及其性质又因为dimR(AAH)=r(AAH)可见R(AAH)=R(A).XR(AAH)

Y

s

s.t.X=AAHY

XR(A),可见R(AAH)R(A),=r(A)=dimR(A).第六章矩阵的广义逆§6.1广义逆及其性质XR(A)

X=AA+X

(I

AA+)X=0

XK(I

AA+),可见R(A)K(I

AA+),XK(I

AA+)(I

AA+)X=0

X=AA+XR(A),可见K(I

AA+)R(A),综合上述两个方面可得R(A)=K(I

AA+).第六章矩阵的广义逆§6.1广义逆及其性质(4)R(A+)=R(A+A)=R(AH)=R(AHA)证明:用A+替换(3)中的A得

R(A+)=R(A+A)=R[A+(A+)H]=K(I

A+A);=K(I

A+A).用AH替换(3)中的A得

R(AH)=R[AH(AH)+]=R(AHA).同时有

R[AH(AH)+]=R[(A+A)H]=R(A+A).第六章矩阵的广义逆§6.1广义逆及其性质(5)[R(A)]

=R(I

AA+)=K(AA+)=K(AH)证明:对(3)中的每一项取正交补得

[R(A)]

=[R(AA+)]

=K(AA+)

=R(I

AA+),[R(A)]

=[R(AAH)]

=K(AAH).在§2.2中已经得到[R(A)]

=K(AH).最后由K(A+)K(AA+)K(A+AA+)=K(A+)可得K(A+)=K(AA+).=K(A+)=K(AAH);第六章矩阵的广义逆§6.1广义逆及其性质(6)[R(A+)]

=R(I

A+A)=K(A+A)证明:用A+替换(5)中的A得

[R(A+)]

=R(I

A+A)=K(A+A)=K(A).又因为K(A)K(AHA)而且dimK(A)=n

r(A)=n

r(AHA)=dimK(A+A),故K(A)=K(AHA).在§2.2中已经得到[R(AH)]

=K(A).=K(A)=K(AHA)=[R(AH)]

;第六章矩阵的广义逆§6.1广义逆及其性质定理6.1.4

AGX=X,XR(A),0,X[R(A)]

;设A

s

n,G

n

s,则G=A+的充要条件为GAX=X,XR(G),0,X[R(G)]

.以及第六章矩阵的广义逆§6.1广义逆及其性质证明:()XR(A)

Y

n

s.t.X=AY

AGX=AGAYX[R(A)]

=K(AH)

AGX=(AG)HX=GHAHX=0.这就证明了=AY=X.AGX=X,XR(A),0,X[R(A)]

;GAX=X,XR(G),0,X[R(G)]

.类似地,可以证明第六章矩阵的广义逆§6.1广义逆及其性质()对于e1=(1,0,…,0)T,e2=(0,1,…,0)T,…,en=(0,0,…,1)T,有AeiR(A),i=1,2,…,n,故AGA=AGA(e1,…,en)=(AGAe1,…,AGAen)=(Ae1,…,Aen)=A(e1,…,en)=A,类似地,可以证明GAG=G.下面证明AG为Hermite阵,即(AG)H=AG.第六章矩阵的广义逆§6.1广义逆及其性质事实上,s=R(A)[R(A)]

.分别取R(A)和[R(A)]

的标准正交基

X1,…,Xr和Xr+1,…,Xs,则AG(X1,…,Xs)=(X1,…,Xs).Ir

O

O

O

令P=(X1,…,Xs),则P1=PH,AG=P

PH=(AG)H.Ir

O

O

O

类似地,可以证明GA为Hermite阵.第六章矩阵的广义逆§6.2A+的求法§6.2A+的求法一.利用矩阵的满秩分解定理6.2.1

设A

s

n,r(A)=r1.若A=BC为A的满秩分解,则A+=CH(CCH)1(BHB)1BH.特别地,若r(A)=n,则A+=(AHA)1AH.若r(A)=s,则A+=AH(AAH)1.证明:直接代入Penrose方程加以验证.第六章矩阵的广义逆§6.2A+的求法123246例1

设A=,求A+.解:C=(1,2,3),令B=,12则A=BC为A的满秩分解,BHB=5,(BHB)1=1/5,CCH=14,(CCH)1=1/14,A+=CH(CCH)1(BHB)1BH

根据定理6.2.1可知123=11415(1,2).122436=170第六章矩阵的广义逆§6.2A+的求法二.利用R(AH)和K(AH)的基定理6.2.2

设A

s

n,r(A)=r1.若X1,…,Xr为R(AH)的一组基,Yr+1,…,Ys为K(AH)的一组基,令B=(X1,…,Xr,0,…,0)n

s,C=(AX1,…,AXr,Yr+1,…,Ys),则A+=BC1.第六章矩阵的广义逆§6.2A+的求法证明:根据定理6.1.3(5)和(2)可知A+Yj

=0(j=r+1,…,s),A+AXi=Xi(i=1,…,r).于是有A+C=A+(AX1,…,AXr

,Yr+1,…,Ys)

=(X1,…,Xr

,0,…,0)n

s=B.注意到r(AX1,…,AXr)r(A+AX1,…,A+AXr)=r(X1,…,Xr)=r,可见AX1,…,AXr构成R(A)的一组基.第六章矩阵的广义逆§6.2A+的求法又因为

s=R(A)K(AH),故AX1,…,AXr,Yr+1,…,Ys构成

s的一组基.因而C=(AX1,…,AXr,Yr+1,…,Ys)可逆,于是由A+C=B得A+=BC1.

第六章矩阵的广义逆§6.2A+的求法例2

设A=,求A+.解:B=(X1,X2)=AH,112213AH=,121123X1=,112X2=213为R(AH)的一组基,K(AH)=0,69914C=(AX1,AX2)=,14996C1=,13

取法不唯一A+=BC1

=.45113

330第六章矩阵的广义逆§6.2A+的求法例3

设M=,其中A=,解:A

O

O

B

1122130230B=,求M+.B+=B1=.01/31/20M+=A+

O

O

B+

A+=.13

451330=.4/35/31/3001100000001/20001/30第六章矩阵的广义逆§6.3广义逆的一个应用§6.3广义逆的一个应用一.最小二乘解的概念定义6.3.1

设A

s

n,b

s.若X0

n满足则称X=X0为方程组AX=b的最小二乘解.||AX0

b||2=min{||AX

b||2|X

n},

AX=b的最小二乘解中,长度最小的叫做极小最小二乘解.第六章矩阵的广义逆§6.3广义逆的一个应用二.正规方程r(AHA)=r(A)=r(AH)r(AH(A,b))

r(AH)

r(AHA,AHb)=

r(AHA,AHb)

r(AHA)

r(AHA)

r(AHA,AHb)=

r(AHA)

AHAx=AHb有解Ax=b的正规方程定理6.3.1

设A

s

n,b

s,则TFAE:(1)X0是AX=b的最小二乘解;(2)AX0

b[R(A)]

;(3)AHAX0

=AHb.第六章矩阵的广义逆§6.3广义逆的一个应用证明:所以b可以唯一地分解为

因为

s=R(A)[R(A)]

,b=AY0+(b

AY0),其中AY0R(A),b

AY0[R(A)]

.于是对于任意的X

n,有||AX

b||2=||AX

AY0+AY0

b||2

2

2

=||AX

AY0||2+||AY0

b||2

2

2

||AY0

b||2.2

由此可见第六章矩阵的广义逆§6.3广义逆的一个应用

(1)X0是AX=b的最小二乘解

||AX0

b||2=||AY0

b||2

||AX0

AY0||2=0

AX0

=AY0

(2)AX0

b=AY0

b[R(A)]

.(2)AX0

b[R(A)]

AX0

=AY0

(1)X0是AX=b的最小二乘解.