向量和矩阵的范数的若干难点导引

1、周国标师生交流讲席010»向量和矩阵的范数的若干难点导引(二)矩阵范数的定义引入矩阵范数的原因与向量范数的理由是相似的，在许多场合需要“测量”矩阵的“大小”，比如矩阵序列的收敛，解线性方程组时的误差分析等，具体的情况在这里不再复述。最容易想到的矩阵范数，是把矩阵ACmn可以视为一个mn维的向量(采用所谓“拉直”的变换)，所以，直观上可用在li范数意义下，|A|1在12-范数意义下，|A|fCmn上的向量范数来作为ACmn的矩阵范数。比如mn1|a“tr(AHA)±；(1.1)i1j11mn2|aij2,(1.2)i1j1注意这里为了避免与以后的记号混淆，下标用“F”，这样一

2、个矩阵范数，称为Frobenius范数，或F-范数。可以验证它们都满足向量范数的3个条件。那么是否矩阵范数就这样解决了？因为数学上的任一定义都要与其对象的运算联系起来，矩阵之间有乘法运算，它在定义范数时应予以体现，也即彳t计AB的“大小”相对于A与B的“大小”关系。定义1设ACmn,对每一个A,如果对应着一个实函数N(A),记为|A|,它满足以下条件：(1)非负性：|A|0;(1a)正定性：AOmn|A|0(2)齐次性：|A|A|,C;(3)三角不等式：|A|AB|A|B|,BCmn则称N(A)|A|为A的广义矩阵范数。进一步，若对Cmn,Cnl,Cml上的同类广义矩阵范数|?|,有(4)(矩

3、阵相乘的)相容性：|A|AB1111A|B|,BCnl,则称N(A)|A|为A的矩阵范数。我们现在来验证前面(1.1)和(1.2)定义的矩阵范数是否合法？我们这里只考虑(1.2),把较容易的(1.1)的验证留给同学们，三角不等式的验证。按列分块，记A(a1,a2,L,an),B(n,b2,L,bn)。|AB|F|(a1b1),(a2b?),abn)|F|a1b1|211a2b2|2|a0|22211a1也g|bL|an|2g|b11aJ|2L|an|2211a111211b1|2L|加巾心也11b1|2L|bn|2对上式中第2个括号内的诸项，应用Cauchy不等式，则有|AB|F|A|F2|A

4、|f|B|f|B|F(|A|F|B|f)2(1.3)于是，两边开方，即得三角不等式。再验证矩阵乘法相容性。mln22|AB|Faikbji 1 j 1 k 1m l n|aik 2i 1 j 1 k 1m l n闻M |i 1 j 1 k 1n|bsj|2(这一步用了s 1m nn l岛 I2|bsj|2|A|F|Bi 1 k 1s 1 j 1Cauchy不等式)(1.4 )可见，矩阵相容性满足。这样就完成了对矩阵F-范数的验证。是不是这样直接将向量范数运用到矩阵范数就可以了吗？No!1 122 2,A112 21,| A2|2,于是max| q |,那么，这样的矩阵范1 i m1 j n2A

5、。因此，按上述矩阵国运用l-范数于矩阵范数时便出了问题。如果|A|数在下面一个例子上就行不通。设A-范数的定义,|A|1,|A|A|_22|A|AA|A|A|1但这是矛盾的。所以简单地将l-范数运用于矩阵范数，是不可行的虽然这仅是一个反例，但是数学的定义是不可以有例外的。由此，我们必须认识到，不能随便套用向量范数的形式来构造矩阵范数。为此，我们仅给出矩阵范数的定义是不够的，还需要研究如何构成具体的矩阵范数的方法。当然，你也可以不去考虑构成方法，一个函数一个函数去试，只要满足条件就行。不过这样做的工作量太大，也很盲目。第二，在实际计算时，往往矩阵与向量出现在同一个计算问题中，所以在考虑构造矩阵范

6、数时，应该使它与向量范数相容。比如要考虑Ax的“大小”，Ax是一个向量，但它由A与x相乘而得的，它与A的“大小”和x的“大小”的关系如何？这提出了两类范数相容的概念。定义2对于Cmn上的矩B$范数|?11M和Cm,Cn上的同类向量范数|?|V，如果成立IIAxIIvIIAIIm|x|V,ACmn,xCn（1.5）则称矩阵范数|?11M与向量范数|?|V是相容的。1mn21例1.1可以证明|A|f|aj|2tr（AHA）3是与向量范数|?|2相容。i1j1事实上，在（1。2）中，取BxCn1,那么11Ax11211AB|f|A|f|B|f|A|f|x|2二.矩阵算子范数现在给出一种构造矩阵范数的

7、一般方法，它可以使构造出的矩阵范数与向量范数相容，当然，它也满足定义1规定的4个条件。定义3设Cm,Cn上的同类向量范数为|?|V，ACmn,定义在Cmn空间上的矩阵A的由向量范数|?IV诱导给出的矩阵范数为I|A|Vmaxx 0I|Ax|VI|x|V(2.1 )可以验证，这样定义出的矩阵范数|A|V满足定义1规定的4个条件，同时又满足矩阵范数与向量范数相容性要求（定义2）。由于有什么样的向量范数|?|V,就有什么样的矩阵范数，所以，这样的矩阵范数称为由向量范数诱导出的，简称诱导范数；又因为（2.1）实际上规定了一个函数（或算子），故又称为算子范数。（2.1）给定的范数实际是寻求一个最优化问题

8、的最优值，求目标函数吆小的最大|x|v|x|V 它可以下列等价值，约束条件是x0,也就在Cn空间中除原点外的点中，找一个n维向量x,使11Ax11V,还是有困难的.可以证明,取得最大值。如果直接考虑这样一个优化问题方式定义，使问题的处理简单。| Ax|V |A|V max V x0 |x|v事实上，分母上的|x|1V是一|Ax|V max|xV 1 |x|V个正数(x 0),max | Ax 11V|刈V 1那么根据向量范数的齐次性有(2.2)maxx 0|Ax|V|x|vmaxx 0|x|VAxmaxx 0|x|Vmax Az x/|z|V 1 Vmax Ax v|x|V 1Vx上面第3个等

9、号成立是因为向量Z为一个单位向量。|x|V下面我们从理论上证明这样的矩阵范数|A|V满足定义1规定的4个条件，同时又满足矩阵范数与向量范数相容性要求。定理2。1由（2.1）或（2.2）给定的Cmn上的矩阵范数满足矩阵范数定义1的4个条件，且与相应的向量范数相容。证明：首先，矩阵范数与向量范数的相容性是不难证明的，事实上，对|x|V=1,|A|V|x|V|A|Vmax|Az|V|Ax|v,因此，矩阵范数与向量范数的相容性条件|z|V1'（1.5）成立。我们下面来验证（2.1）或（2.2）满足矩阵范数的4个条件。这4个条件中，前2个也容易验证，因此这里只来考察第3,4个条件。三角不等式的验

10、证：对于任一BCmn|AB|max|（AB）x|max|AxBx|max|A|B|x|1|x|1|x|1max|Ax|max|肉1111A|hbh|x|1|x|1矩阵相乘相容性的验证：由（1.5）,不难有|ABx|v|A|v|Bx|V|A|v|B|v|x|V当x0时，11ABxJ1V|A|v|B|V|x|V所以|AB|vmaxBxUV|A|v|B|vx0|x|v至此，证实了用算子范数确能给出满足矩阵范数定义和矩阵范数与向量范数的相容性的矩阵范数。推论1对于Cnn上的任一种向量诱导范数，都有但是要注意的是，对一般的矩阵范数，对任一向量l|x|Ix|I|x|故有|I|1。比如，|A|F不是诱导矩阵

11、范数，所以|I|fiii ii maxiiixii i 刈ix Cn ,有1。(2。3)几个常用的诱导矩阵范数上面的论述表明，诱导矩阵范数与向量范数密切相关,有何种向量范数，就有什么样的诱导矩阵范数。下面就来具体地构造几个常用的诱导矩阵范数。设例 3. 1 设 A Cmn,由向量11-范数诱导而来的最大列和诱导矩阵范数(3.1 )mIIA|1maxIaijI1 jni1证明：按列分块，记AIIAI1(ai,a2,L,an),则由(3.1)和向量11-范数的定义可知设x(Xi,X2,L,xn)nmax|aj|1Cn,且有|x|1因此，11Ax|1naijxjj1max|aj|ajllxj|l|A

12、|1max|Ax|1l|x|111n|XjIj1m1aj11|xjmaxmax|aj|m1aij1i1(+)另一方面，选取k,使得mIaikImax|a0|i1ji1令X0为第k的单位向量ek(0,L 0,1,0,L ,0)T,那么Ax。mI|A|1 max II Ax11111Ax0l1 laikl llxl1 1i 1综合(+)与(+)可知，由向量11-范数诱导出的矩阵范数既是 此必有(3.1).akmax(a1k,a2k,L ,amk)mlaij1(+)i 111AII1的上界，又是其下界，因例3.2设ACmn,矩阵谱范数由12-范数诱导得出的矩阵范数，定义为11A|2max|是AHA的

13、特征值Jmax(AHA)1(3.2)其中1为A的最大奇异值，当ARnn时，IIAII2mmax(ATA)(3.3)证明：首先由线性代数，AHA是半正定矩阵，事实上，对任一xCn,有(x,AHAx)xHAHAx(Ax)H(Ax)11Ax|20因此，AHA的特征值都为非负实数，记为12L正交的，l2-范数等于1(即标准化了的)特征向量x(1),x12Ln0。n0,而且AHA具有n个相互,L,x(n),它们分别对应于特征值|x|2 1的向量X :而且,由 llxll2这样,AH AxnAHAi 1i(AH Ax(i)i ix(i)故这组特征向量构成了一组标准正交基，用它们可表示任一个范数nix由此也

14、就是l|Ax|2(x, AH Ax)1| 1|22l2ixixnl211Ax12 .二*)另一方面，由|x|2 1 ,并且取1对应的特征向量x(1)(1) 2(1) H (1)(1)(1)、/ (1)| Ax |2 (x ,A Ax ) (x , ix ) i(x , x 所以考虑(1)llx(1)ll2由x的任意性和算子范数的定义llAlLmaxllAxl2* )11All2maxllAx11211Axlb1|xl21综合(*)和(*),由12-范数诱导得出的矩阵范数应为11A|2匚max|是AHA的特征值Jmax(AHA)例3.3设ACmn,l-范数诱导得出的矩阵范数n|A|1 max.j

15、证明：设 x (X,x2,L ,xn)T,且 |x| aij |1(3.4 )1,即 max| x | 1。11AxU maxnaij为1nmaxmaxi j 1|ajxj| max |aj |为 |j 1(|a |(max |xj |)max1 aij 1由算子范数,llAll另一方面，选取k,nmaxllAxllllxll1使得lakjlmaxmax|aij|j1n|aij|j1*)1,ifakj0令y（yi,y2,L,yn）T,其中yj®|,ifakj0akj则|y|max|yj|1,从而有*M*nAy同|,ji*M*由算子范数nn|A|maX|Ax|Ay|akj|m?x|aj

16、|。（*|x|jiiji综合（*）和（*）,便得n|a|max|aj|。ji除了上述3种常用的矩阵范数外，Frobenius范数虽然不是算子范数，但也经常所用,在讨论序列收敛等问题上是等价的。一>12例3.4设A,求其各种矩阵范数。34解：|A|1最大列和=6;|A|最大行和=7；|A|fJi22232427305.477；|A|2152215.4650四.由矩阵范数推出的向量范数矩阵范数可由向量范数诱导，反过来，向量范数有时也可从矩阵范数推出。例4.1设|?11M是Cnn上的矩阵范数，任取Cn中的非零向量y,则函数Hn|x|V|xyUm，xC（4。1）是Cn上的向量范数，且矩阵范数|?

17、11M与向量范数|?|v相容。证明：欲证IIxIIv是一个向量范数，只须验证它满足向量范数得个条件。非负性：当x0时，由于y非零，故|x|V|xyH|m0,xCn；H_H当x0时，xyOnn,故IIxIIv|xy11M0。齐次性：对任一常数cC,有llcxIV|cxyH|m|c|xyH|m|c|x|v。三角不等式：对任意的x,zCn,有|xz|V|(xz)yH|m|xyHxzH|m|xyH|M|xzH|m|1x|VHzHm。因此由向量范数的定义知，|x|V是一个向量范数。下面再证两种范数的相容性。如果ACnn,xCn,那么HHH|Ax|v|(Ax)y|m|A(xy)|m|A|M|xy11M|A

18、|m|x|V。可见，矩阵范数|?11M与向量范数|?|V相容。五.范数的若干应用范数的应用很广泛，这里只举2例。1 .矩阵奇异性的条件对于矢I阵ACnn，能否根据其范数的大小，来判别(IA)的奇异性？判别一个矩阵的奇异性，并不方便(比如计算A的行列式的值是否非零，判断A的诸列是否线性无关等，均不大容易)，但矩阵的范数的计算，如|A|1,|A|,还是方便的。定理5.1(Banach引理)设矩阵ACnn,且对矩阵Cnn上的某种矩阵范数|?|,有|A|1,则矩阵(IA)非奇异，且有1|(I A) |I |1 |A|(5.1)证明：假设矩阵范数|A|与向量范数|x|相容。欲证矩阵(IA)非奇异，可通过

19、det(IA)0。用反证法。假设det(IA)0,则齐次线性方程组(IA)x0有非零解x0,即(IA)Xo0,Xo0于是，x0mAx0o两边取范数|Xo|v|Ax0|V11A|x0|V|x°|v其中最后一个不等号是由于|A|1。但上式是矛盾的，假设det(IA)0不成立，从而矩阵(IA)非奇异，故有逆。再由(IA)1(IA)I可得(IA)1Im(IA)1A两边取范数，得|(IA)1|Im(IA)1A|I|(IA)1|A|再移项，有|(IA)1|(1|A|)|I|从而|(IA)1|I|1|A|这正是我们要想证明的。在推演分析Axb的直接法的误差分析时起重要的作用。请同学们自行证明下面类

20、似的结果。定理5.2设矩阵ACnn,且对矩阵Cnn上的某种矢I阵范数|?|,有11A|1,则|I (I1A) |A|1 |A|2 .近似逆矩阵的误差一一逆矩阵的摄动在数值计算中，误差无处不在，考虑由于这些误差存在而带来的后果，是一项重要的课题。设矩阵ACnn的元素aj带有误差aj,（i,j1,2,L,n）,则矩阵的真实的值应为AA,其中A（a"称为误差矩阵，又叫摄动矩阵。若A为非奇异，其逆阵为A1。问题是：（AA）1与A1的近似程度如何呢？或者说,（AA）1与A1的“距离”大小为多少？下面是回答上述问题的摄动定理。定理5.3 设矩阵A Cn n非奇异，B1 _| A B| 1 ,则（1） A B 非奇异；（2）记 FCn n ,且对Cn n上的某种矩阵范数|?|,有11| A 1B |I (I A B)，那么 |F | A ； 1 |A1B|1_11_IIA(AB)|AB|2111oIIA|111AB|证明：由于|A1B|1,所以|A1B|1。由定理5。1,(IA1B)非奇异，故1ABA(IAB)非奇异。1在定理5。2中，将A换成AB,即得(2)。11111又因为A(AB)(I(IAB)A,1 _11A B|1 _111A B|111