第二章_范数理论及其应用

1、工科研究生数学工科研究生数学矩矩 阵阵 论论仝允战仝允战郑州轻工业学院郑州轻工业学院数学系数学系第二章第二章范数理论及其应用范数理论及其应用第二章 范数理论及其应用摘要（P109） 把一个向量（线性空间中的元素）或矩阵与一个非负实数联系起来，在某种意义下，这个数值可以代表向量或矩阵的大小度量。向量范数与矩阵范数就是这样的数值，他们在研究数值方法的收敛性和稳定性以及误差估计等方面有着重要应用。第二章 范数理论及其应用主要内容 1.向量范数的构造与验证； 2.矩阵范数的构造与验证； 3.诱导范数（二者之间的关系及相容性）； 4.范数在数值分析中的应用。定义定义： 设设V是实数域是实数域R（或复数域

2、（或复数域C）上的）上的n维线性维线性空间，对于空间，对于V中的任意一个向量中的任意一个向量 按照某一确定法按照某一确定法则对应着一个实数，这个实数称为该向量则对应着一个实数，这个实数称为该向量 的的范范数数，记为，记为 ，并且要求范数满足下列条件：，并且要求范数满足下列条件：（1）非负性：当）非负性：当（2）齐次性：）齐次性： ，k为实数为实数(或复数或复数)（3）三角不等式：）三角不等式：例：线性空间任何内积定义的长度即为范数。例：线性空间任何内积定义的长度即为范数。0,0向量的范数向量的范数|kk),(V例例： 在在n维酉空间维酉空间Cn中，对于任意的向量中，对于任意的向量 分别定义分别

3、定义（1） （2） （3）证明证明 都是都是Cn上的范数，并且还有上的范数，并且还有12(,)nna aaCniia1121122)(niiainia1max12,12122(1)(2)(3)nnn引理（引理（Holder不等式）不等式）：设设1212,TTnnna aab bbC则则 ( p1, q1, )11111()()nnnpqpqiiiiiiiabab111qp引理（引理（Minkowski不等式）不等式）：设设则对任何则对任何 p1 都有都有1212,TTnnna aab bbC111111()()()nnnppppppiiiiiiiabab证明证明 以以 代入下式代入下式则则 1

4、11nnppiiiiiiiiabab ab1pqp11nnppqiiiiiiiiabab ab11nnppqqiiiiiiiia abb abqnipiipnipibaa1111)()(qnipiipnipibab1111)()(111111()() ()nnnpppppqiiiiiiibbab此不等式两端同除以此不等式两端同除以 ，根据，根据可得可得 11()npqiiiab111pq111111()()()nnnppppppiiiiiiiabab定义：定义：设向量设向量 ，对任意的数，对任意的数 ，称，称为向量为向量 的的p-范数范数。常用的常用的p-范数：范数：（1）1-范数范数 （2）

5、2-范数范数（3）-范数范数12,Tna aa1p 11()nppipia11niiaP-范数范数121 2221()()nHiia inippa1maxlim证明：证明：令令 ，则，则于是有于是有另一方面另一方面1maxii nxa ,1,2,iiayinx11()nppipixy111111()npiinpppiiynyn11lim()1nppipiy故故由此可知由此可知xpplim利用已知向量范数可以去构造新的范数。利用已知向量范数可以去构造新的范数。例例1 设设 是是 Cm上的向量范数，且上的向量范数，且(mn)，则由，则由所定义的所定义的 是是Cn上的向量范数。上的向量范数。例例2

6、设设V数域数域数域数域F上的上的n维线性空间，维线性空间， 为其为其一组基底，那么对于一组基底，那么对于V中的任意一个向量中的任意一个向量 可唯一地表示可唯一地表示成成又设又设 是是Fn上的向量范数，则由上的向量范数，则由所定义的所定义的 是是V上的向量范数。上的向量范数。 b,( )m nACrank An,nabACa12,n 121,nniinixXx xxFVXV定义定义 设设 是是n维线性空间维线性空间V上定义的两种向量范上定义的两种向量范数，如果存在两个与数，如果存在两个与 无关的正数无关的正数d1, d2使得使得则称该两范数等价。则称该两范数等价。定理定理 有限维线性空间有限维线

7、性空间V上的任意两个向量范数都是等价上的任意两个向量范数都是等价的。的。12,babddV范数等价范数等价ba,定义定义 对于任何一个矩阵对于任何一个矩阵 ，用，用 表示按照某一表示按照某一确定法则与矩阵确定法则与矩阵A相对应的一个实数，且满足相对应的一个实数，且满足（1）非负性：当）非负性：当 ，当，当（2） 齐次性：齐次性： 为任意复数。为任意复数。（3） 三角不等式：对于任意两个同阶矩阵三角不等式：对于任意两个同阶矩阵A, B都有都有（4）矩阵乘法的相容性：对于任意两个可以相乘的矩阵）矩阵乘法的相容性：对于任意两个可以相乘的矩阵A, B，都有，都有那么我们称那么我们称 是是矩阵矩阵A的范

8、数。的范数。A0,0AA0,0AA,kAk AkABABm nAC矩阵范数矩阵范数ABA BA例例1 对于任意对于任意 ，定义，定义证明如此定义的证明如此定义的|A|为矩阵为矩阵A的范数。的范数。证明证明 只需要验证此定义满足矩阵范数的四条性质即可。非只需要验证此定义满足矩阵范数的四条性质即可。非负性，齐次性与三角不等式容易证明。现在验证乘法的相容负性，齐次性与三角不等式容易证明。现在验证乘法的相容性。设性。设 ，则，则m nAC11mnijijAa,m pp nACBCminjpkkjikminjpkkjikbabaAB111111minjpkkjpkikba1111BAbanjpkkjmi

9、pkik1111例例2 设矩阵设矩阵 ，证明：，证明：是矩阵范数。是矩阵范数。证明证明：非负性、齐次性和三角不等式容易证得。现在我们：非负性、齐次性和三角不等式容易证得。现在我们考虑乘法的相容性。设考虑乘法的相容性。设 ，那么，那么n nAC,maxiji jAna,n nn nACBC,11,maxmaxmaxmaxmaxmaxnnikkjikkji ji jkkikkji kk jikkji kk jABna bnabn nabnanbA B因此因此 为矩阵为矩阵A的范数。的范数。A例例3 对于任意对于任意 ，定义，定义可以证明可以证明 也是矩阵也是矩阵A的范数。我们称此范数为矩阵的的范数

10、。我们称此范数为矩阵的Frobenious范数范数。证明证明：此定义的非负性、齐次性是显然的。利用：此定义的非负性、齐次性是显然的。利用Minkowski不等式容易证明三角不等式。现在我们验证乘法的相容性。不等式容易证明三角不等式。现在我们验证乘法的相容性。 设设 ，则，则 m nAC12211()mnijFijAaA,m ll nACBC minjpkkjikminjpkkjikFbabaAB112111212)(|minjpkkjpkikba111212)()(22112112BAbanjpkkjmipkik于是有于是有 例例4 对于任意对于任意 ，定义，定义证明如此定义的证明如此定义的

11、是矩阵是矩阵A的范数。的范数。证明证明 首先注意到这样一个基本事实，即首先注意到这样一个基本事实，即由上一个例题可知此定义满足范数的性质。由上一个例题可知此定义满足范数的性质。n nAC12()HATr A AA1122211()()mnHijijTr A AaFFFABAB（1）如果）如果 ，那么，那么（2） （3）对于任何）对于任何m阶酉矩阵阶酉矩阵U与与n阶酉矩阵阶酉矩阵V都有都有12nA2221niFiA21()()nHHiFiATR A AA AFrobenious范数的性质范数的性质HFFFFFAUAAAVUAV定理定理 设设 是矩阵是矩阵A的任意两种范数，则总的任意两种范数，则总

12、存在正数存在正数d1, d2，使得，使得12,m ndAAdAAC 矩阵范数的等价性矩阵范数的等价性AA ,定义定义 设设 是向量范数，是向量范数， 是矩阵范数，如果对于任是矩阵范数，如果对于任何矩阵何矩阵 A 与向量与向量 X 都有都有则称矩阵范数则称矩阵范数 与向量范数与向量范数 是相容的。是相容的。例例1 矩阵的矩阵的Frobenius范数与向量的范数与向量的2-范数是相容的。范数是相容的。证明证明 因为因为 XAAXAXAX12211()mnijFijAa诱导范数诱导范数(从属范数从属范数)121 2221()()nHiiXxXX根据根据Hoider不等式可以得到不等式可以得到2222

13、11112211122111222()()()()()mnmnijjijjijijmnnijjijjmnnijjijjFAXa xa xaxaxAX 于是有于是有22FAXAX例例2 设设 是向量的范数，则是向量的范数，则满足矩阵范数的定义，且满足矩阵范数的定义，且 是与向量范数是与向量范数 相容的相容的矩阵范数。矩阵范数。证明证明 首先我们验证此定义满足范数的四条性质。非负性，首先我们验证此定义满足范数的四条性质。非负性，齐次性与三角不等式易证。现在考虑矩阵范数的相容性。齐次性与三角不等式易证。现在考虑矩阵范数的相容性。设设 向量向量X1满足满足|X1| =1，且，且|AB|i=|ABX1|

14、 ，则，则XiAX|1|1BXAABXABii|max)max|1|0AXXAXAXXiiiiiBAXBA|1|因此因此 满足矩阵范数的定义。满足矩阵范数的定义。最后证明最后证明 与与 是相容是相容的。的。 由上面的结论可知由上面的结论可知这说明这说明 与与 是相容的。是相容的。 定义定义 上面所定义的矩阵范数上面所定义的矩阵范数 称为由向量范数称为由向量范数 所所诱导的诱导的诱导范数诱导范数或或算子范数，算子范数，也称为也称为 的的从属范数从属范数。iAXiAiiAXAXAXAXiAXXiAX向量向量 p-范数范数 所诱导的矩阵范数称为矩阵所诱导的矩阵范数称为矩阵p-范数，即范数，即常用的常

15、用的矩阵矩阵p-范数范数为为 ， 和和 。定理定理 设设 ，则，则（1）称此范数为矩阵称此范数为矩阵A的的列和范数列和范数。（2） 表示矩阵表示矩阵AHA的的第第 j 个特征值。我们称此范数为矩阵个特征值。我们称此范数为矩阵A的的谱范数谱范数。pX0maxppXpAXAX1A2AAm nAC11max(),1,2,mijjiAajn122max(),()HHjjjAA AA A（3）我们称此范数为矩阵我们称此范数为矩阵A的的行和范数行和范数。证明：记证明：记（1）设）设|X|1=1，则，则 minjjijminjjijxaxaAX11111| minjjijjnjmijijxaxa1111|)

16、|max(|)|(1max(),1,2,nijijAaim,)(nmijaATnxxxX),(21miijja1|max设设j=kj=k为其最大者为其最大者, 令令X的第的第k个坐标为个坐标为1，其它都为零，其它都为零，则则miijjaAX11|max|即即miijjaA11|max|（2）设）设|X|2 2=1，由，由0|22AXAXAXHH因为因为 AHA为半正定共轭对称矩阵，因此存在非负实特征值为半正定共轭对称矩阵，因此存在非负实特征值n21因此有因此有及其标准正交特征向量及其标准正交特征向量nppp,21nnpppX22112222211nnHHAXAX1222211)(n取取X=p1

17、X=p1，则有，则有1AXAXHH即即12|A（3）设）设|X| =1，则，则|max|max|11njjijinjjijixaxaAXnjijia1|max设设i=ki=k为其最大者为其最大者, 令令X的第的第j个坐标为个坐标为miijjaAX11|max|即即miijjaA11|max|0|00kjkjkjkjjaaaax则有则有例例 1 设设 ，计算计算 ， ， 和和 。解解因为因为 ，所以，所以210023120A1A2AAFA15A5A23FA215A500096069HA A例例2 证明：对于任何矩阵证明：对于任何矩阵 都有都有m nAC11222222221HTHTHAAAAAA

18、A AAAAA|11AAATH证：容易证明证：容易证明 下面证明下面证明222|AAATH设设AAH的一个非零特征值为的一个非零特征值为，对应特征向量为，对应特征向量为p，则有，则有ppAAH)()(pApAAAHHH因此因此 AHp 为为AHA的的非零特征向量，非零特征向量，对应特征值为对应特征值为，即，即AAH的的非零特征值都是非零特征值都是AHA的特征值。类似可以证明，的特征值。类似可以证明， AHA的非零特的非零特征值都是征值都是AAH的非零特征值。因此的非零特征值。因此AAH与与AHA具有相同非零特具有相同非零特征值。因此征值。因此 。另一方面，由。另一方面，由22|AAHTHTHT

19、AAAA)()(知知 (AT)HAT 与与 AAH 有相同的特征值，因此有相同的特征值，因此其余不等式证明作为练习。其余不等式证明作为练习。22|THAA如何由矩阵范数构造与之相容的向量范数？如何由矩阵范数构造与之相容的向量范数？定理定理 设设 是矩阵范数，则存在向量范数是矩阵范数，则存在向量范数 使得使得证明证明 对于任意的非零向量对于任意的非零向量 ，定义向量范数，定义向量范数容易验证此定义满足向量范数的三个性质，且容易验证此定义满足向量范数的三个性质，且*AX*AXAX*HXX*HHAXAXAXAX例例3 设设 是是 上的相容矩阵范数。上的相容矩阵范数。证明：证明： （1） （2） 为可

20、逆矩阵，为可逆矩阵， 为为 的非零的非零 特征值，特征值，则有则有n nC1I AA11AA范数的应用范数的应用v矩阵的非奇异性条件矩阵的非奇异性条件定理定理1：设：设 ，且对范数，且对范数 有有 ，则，则I-AI-A非奇异，非奇异，且且证明：用反证法，假设证明：用反证法，假设I-AI-A奇异，则方程奇异，则方程有非零解有非零解0,0,选取与矩阵范数相容的向量范数，于是有选取与矩阵范数相容的向量范数，于是有矛盾，因此矛盾，因此I-AI-A非奇异。非奇异。1AAIAI1)(1AAnnCA0)(xAI再由再由 AAIAIAIAII111)()()()(知知 AAIIAI11)()(AAII1)(AAII1)(于是得于是得AIAI1)(1v矩阵的非奇异性条件矩阵的非奇异性条件定理定理2：设：设 ，且对范数，且对范数| |有有|A|1，则有，则有证明：由于证明：由于 ，知，知(I-A)(I-A)-1-1存在，由存在，由AAAII1)(1nnCA1A111)()()(AIAAAIAAIAIAA知知 11)()(AIAAAAIA1)(AIAAA即即 AAAIA1)(1再由再由 111)()()(AIAAIAIAII得得AAAIAAII1)()(11v求逆矩阵的误差求逆矩阵的误差定理：设定理：设 非奇异，非奇异， 且对范数且对范数 有