第五章-广义逆矩阵

1、 第五章 广义逆矩阵 广义逆矩阵是E. H. More于1920年首次提出的，1995年R. Penrose利用矩阵方程组给出它更为明确简便的定义。其后，广义逆矩阵在理论和应用方面都得到了迅速发展。它在微分积分方程、数理统计、最优化、测量学等应用科学中发挥了重要作用，更是研究最小二乘等问题不可缺少的工具。广义逆矩阵是矩阵论的一个重要分支。第一节 广义逆矩阵的概念 对于线性方程组Ax=b，当方阵A可逆时，其有唯一解x=A-1b。但是，在许多实际应用中更多涉及到的是系数矩阵A是奇异方阵或长方阵的情形。这就从客观上要求人们去探索把通常逆矩阵进行推广的问题。 若A是可逆的，即有逆矩阵A1，则A1必满足

2、下面四个等式 AA1A=A A1AA1=A1 (AA1)H=AA1 (A1A)H=A1A 若A是一个一般的矩阵，是否有矩阵X存在，满足 AXA=A （1） XAX=X （2） (AX)H=AX （3） (XA)H=XA （4）这四个方程中的一个、二个、三个或全部呢？这就引出了广义逆矩阵的定义。 定义1 设AÎCm×n，如果XÎCn×m满足（1）（4）式中的一个、二个、三个或全部，则称X为A的广义逆阵。 由上定义可知，广义逆阵有种之多。为了方便，引进一些记号：A(i)为满足第i个方程的广义逆矩阵，即第i个方程的解矩阵，Ai为第i个方程的解集，即A（i）的全

3、体。同样有记号A(i，j)，A(i，j，k)，A(1，2，3)，Ai，j，Ai，j，k，A1，2，3，4。 如，A(1，3)为满足第1、第3个方程的广义逆矩阵，A1，3为所有A(1，3)的全体构成的集合。 在这15种广义逆矩阵中，常用的有A1，A1，3，A1，4，A1，2，3，4。我们将结合线性方程组的解的不同情况，在本章后面各节中进行讨论。为此先了解一下线性方程组的解的问题。 根据线性方程组Ax=b是否有解，可把线性方程组分为两大类。第一类是有解方程组，又称相容方法组；第二类是无解方程组，又称不相容方程组或矛盾方程组。 对于第一类方程组，若A是列满秩的，则有惟一解；否则，有无穷多解。我们从中

4、挑选出2范数极小的解，即所谓的极小范数解 对于第二类方程组，其根本就没有解。但实际问题中经常要求出近似解即最小二乘解；如果方程组的最小二乘解有无穷多个，我们也从中挑出2范数极小的解，即极小范数最小二乘解第二节 A与相容线性方程组的通解 我们把广义逆矩阵A(1)记为A，称为A的减号逆或g-逆，即AAA=A 例如，都是的减号逆。 下面将证明任何矩阵的减号逆都是存在的。 定理1 设，并且存在，使则的充分必要条件是 （1）其中G12、G21、G22是具有相应阶数的任意矩阵。 证明 充分性。直接验证便得。 必要性。设，则两边同左乘以P1，右乘以Q1，得若记代入上式，有G11=Er，从而这里的G12，G2

5、1，G22是具有相应阶数的任意矩阵，故有 定理1不但表明矩阵的减号逆总是存在的，通常也是不惟一的，而且还给出了计算减号逆的方法。 例 设求A 解 经过初等变换可得，故其中t1、t2是任意数。 定理2 设，则的充分必要条件是 （2）其中V、W是具有相应阶数的任意矩阵。 证明 充分性。由知。 必要性。设，令V=GA，W=VA A，并注意到有定理于此证毕。 （1）式和（2）式以后都称为矩阵A的减号逆的一般表达式。 减号逆有下面一些基本性质： 性质1 性质2 ，即、分别是A、AH的减号逆。 证明 因为并考虑到对任意矩阵B，如果BHB=O，那么B=O，有A(AHA)AHAA=O这就证明了第一个等式，对第

6、一个等式两边转置就得到第二个等式。 性质3 AGA=A的充分必要条件是 AHAGA=AHA。 证明 必要性是显然的，下面证充分性。设AHAGA=AHA 即 AHAGAAHA=O因为所以AGAA=O也就是AGA=A 性质4 rank(A)rank(A) 证明 根据矩阵秩的性质，可得rank(A)rank(AA)r(AAA)=r(A) 用减号逆可以把相容方程组的通解很简明地表示出来。 定理3 设A是的一个减号逆，则相容方程组Ax=b的通解为x= Ab+(EnAA)c其中c是Cn中的任意向量。 证明 由Ax=b相容知，存在x0ÎCn使Ax0=b。从AAb+(EnAA)c=AAb=AAAx0

7、=Ax0=b可知（3）式是Ax=b的解。 设x0是Ax=b的任一解，即Ax0=b，因而这说明Ax=b的任一解x0均可由（3）式表示出来。故（3）式是Ax=b的通解。第三节 与相容线性方程组的极小范数解 定义1 设AÎCm×n，称同时满足AGA=A （1）(GA)H=GA （2）的GÎCn×m为矩阵A的极小范数广义逆，记为或A(1，4)。 上面的定义中G要满足的两个方程（1）和（2）可以用一个方程 GAAH=AH （3）来代替。事实上，由（1）式和（2）式可得A(GA)H=A两边取转置共轭有GAAH=AH 反之，把（3）式两边右乘以GH得GAAHGH=AH

8、GH即 GA(GA)H=(GA)H （4）两边取转置共轭(GA)(GA)H=GA （5）比较（4）式（5）式，有(GA)H=GA代入（3）式得(GA)HAH=AH即AGA=A 矩阵的极小范数广义逆与(AAH)有着密切的关系。 定理1 设，则 （6） 证明 因(AAH)是减号逆，故(AAH)(AAH)(AAH)=AAH若A=BC为A的满秩分解，则上式可写为AAH(AAH)BCCHBH=BCCHBH用B(BHB)1(CCH)1C右乘上式两边，得AAH(AAH)BErErC=BErErC即AAH(AAH)A=A这表明AH(AAH)满足（1）式。又因AH(AAH)AH=AH(AAH)A所以AH(AAH

9、)满足（2）式。 定理1说明通常也不惟一，而（6）还给出了计算的一种方法。 在上节中，给出了相容线性方程组Ax=b的通解，现在，欲从这所有解中，求范数极小的解（或称LN解），即求减号逆G，使 定理2 向量x=Gb是相容线性方程组Ax=b的极小范数解的充分必要条件是GÎA1，4 证明 充分性。设GÎA1，4ÍA1，则线性方程组Ax=b的任一解可表示成x=Gb+(EGA)c（c为任意向量）的形式。因此由于Ax=b是相容的，从而有解x0Ax0=b。于是从而故有或即Gb是Ax=b的极小范数解。 必要性证明请读者自己完成。 矩阵的极小范数广义逆通常不惟一，相容线性方程组Ax

10、=b的极小范数解是否惟一呢？下面的定理回答了这个问题。 定理3 相容线性方程组Ax=b的极小范数解是惟一的。 证明 设G1、G2ÎA1，4，x0是Ax=b的解，即Ax0=b，则x1=G1b=G1Ax0， x2=G2bG2Ax0是Ax=b的两个极小范数解。由（3）知G1AAH=AH， G2AAH=AH从而有(G1G2)AAH=O两边右乘以(G1G2)H，得即有(G1G2)A=O从而x1x2=(G1G2)Ax0=0第四节 与不相容线性方程组的最小二乘解 定义 设，称满足AGA=A （1）(AG)H=AG （2）的为矩阵A的最小二乘广义逆，记为或A(1，3)。 同A的极小范数广义逆的定义类

11、似，上面定义中的（1）式，（2）式可用AHAG=AH （3）来代替。 定理1 向量x=Gb是不相容线性方程组Ax=b的最小二乘解的充分必要条件是GÎA1，3。 此定理证明与上节定理2证明相似，这里不再重复。 通常情况下，不相容线性方程组的最小二乘解是不惟一的。 定理2 设是的一个最小二乘广义逆，则不相容方程组Ax=b的最小二乘通解为 （4）其中c是Cn中的任意向量。 证明 由于所以（4）式和一样，都是Ax=b的最小二乘解。 又设x0是Ax=b的任意一个最小二乘解，则因为而即和（5）式比较可得也就是这表明，当x0是不相容线性方程组Ax=b的最小二乘解时，是齐次线性方程组Ax=0的解，而

12、Ax=0的通解为于是存在，使或故x0可表为（4）式的形式。 第五节 A+与不相容线性方程组的极小范数最小二乘解 前面我们首先讨论了矩阵A的减号逆A，然后对减号逆A加以不同的限制条件，得到了极小范数广义逆、最小二乘广义逆，通常A、都是不惟一的。下面讨论最重要的一种广义逆矩阵加号逆A+。 定义 设AÎCm×n，称满足Penrose方程AGA=A （1）GAG=G （2）(AG)H=AG （3）(GA)H=GA （4）的矩阵GÎCn×m为A的MoorePenrose逆或加号逆，记为A+。 定理1 任意矩阵的加号逆是存在的。 证明 设A的奇异值分解为其中、是酉阵

13、，而å=diag(s1，sr)，si0（i=1，r）是A的奇异值。 若记å1=diag(，)则我们只需验证上式右端满足（1）式、（2）式、（3）式、（4）式即可，这里只验证（1）式，其余由读者自已完成。定理2 任意矩阵A的加号逆是惟一的。证明 设G1、G2都是A的加号逆，则即A的加号逆是惟一的。 推论 若A可逆，则A+= A1。 定理3 加号逆A+具有下列性质 （1）rank(A+)=rank(A)； （2）(A+)+=A； （3）(AT)+=(A+)T，(AH)+=(A+)H； （4）(AHA)+=A+(AH)+，(AAH)+=(AH)+A+； （5）A+=(AHA)+A

14、H=AH(AAH)+ 证明 （1）因为rank(A)=rank(AA+A)rank(A+)rank(A+)=rank(A+AA)rank(A)所以rank(A+)=rank(A)。 （2）由A、A+在四个Penrose方程中的对称地位，可知(A+)+=A。 （3）、（4）可以从验证四个Penrose方程得到。 （5）根据（4）和A+的定义有(AHA)+AH=A+(A+)HAH=A+(AA+)H =A+AA+=A+AH(AAH)+=AH(A+)HA+=(A+A)HA+ =A+AA+=A+ 定理4 设A=BC是A的满秩分解，则G=CH(CCH)1(BHB)1BH是A的加号逆。 证明 我们验证G满足

15、四个Penrose方程故G是A的加号逆。 推论 （1）当，即A为列满秩矩阵时，A+=(AHA)1AH （2）当，即A为行满秩矩阵时，A+=AH(AAH)1 定理4及推论的重要性在于给出了计算加号逆的方法。 例1 已知求A+。 解 A的一个满秩分解为A=BC，其中因为故 不相容线性方程组Ax=b的最小二乘解通常是不惟一的，但其中范数极小的解是惟一的，并常称之为LNLS解。 定理5 不相容线性方程组Ax=b有惟一的极小范数最小二乘解x=A+b 证明 设x0是Ax=b的最小二乘解。由A+ÎA1，3知x0=A+b+(EA+A)c从第三节定理2的证明可得这表明只有当(EA+A)c=0时x0是Ax=b的LNLS解，此时x0=A+b因A+是惟一的，故Ax=b的LNLS解是惟一的。 例2 求不相容线性方程组Ax=b的LNL