线性代数方程组的直接解法

1、3.5 向量范数与矩阵范数向量范数与矩阵范数一、一、 向量范数（向量范数（/*vector norm*/）1def设设 是是 的一个映射，若对的一个映射，若对 nrrnxr 存在唯一实数存在唯一实数 与之对应，且满足与之对应，且满足x正定性：正定性：齐次性：齐次性：三角不等性：三角不等性：x0,nxr 且且x00 x ,nxxxrr ,nxyxyx yr 则称则称 为为 中向量中向量 的的范数范数。xnrx非负实值非负实值函数函数 称为称为赋范赋范线性空间线性空间nr可以推广到可以推广到 nc 常用的几种常用的几种向量范数：向量范数： 设设12(,)tnxx xx 1- -范数：范数： 2-

2、-范数：范数： - -范数：范数： 11niixx 12221()( , )niixxx x 1maxii nxx 上述上述3种向量范数统称为种向量范数统称为p- -范数范数( (或者或者holder范数范数) )111()nppipixxp 设设120(,)tnxx xx 由夹逼定理由夹逼定理111111()max()maxpnnpppiiii niiii nxxxx 1pn 1limp 1maxii nxx 1maxii nx 两个重要不等式两个重要不等式 闵可夫斯基闵可夫斯基( (minkowski) )不等式不等式： 柯西柯西- -许瓦滋许瓦滋( (cauchy-schwartz) )

3、不等式不等式：111111()()()nnnppppppiiiiiiixyxy 2( , )( , )( , ),nx yx xy yx yr 或者或者112222111()()nnniiiiiiix yxy 例例1 1：设设 是是n阶实对称阶实对称正定正定矩阵，则矩阵，则是是 中的一种向量范数。中的一种向量范数。n nar 12()tnaxx axxr nr证明：证明：只需验证范数的只需验证范数的3个条件成立即可。个条件成立即可。 非负性非负性： 齐次性齐次性： 三角不等性：三角不等性：1200()taxxx ax 12()()taaxxaxx 存在非奇异存在非奇异下三角下三角阵阵ltall

4、 2tl x 1122()() ()tttttaxx ll xl xl x222()tttaxylxyl xl y 例例2 2：证明证明122( )( ) , baffx dxf xc a b 是线性空间是线性空间 上的一种范数。上的一种范数。 , c a b证明：证明：只需验证范数的只需验证范数的3个条件成立即可。个条件成立即可。 非负性非负性： 齐次性齐次性： 三角不等性：三角不等性：12200( )( )baf xffx dx 1222( )baffx dxf 111222222( )( )( ) )( ) )bbbaaaf xg xdxf xdxg xdx fgfg 闵可夫斯基闵可夫斯

5、基( (minkowski) )不等式不等式：2f 向量范数的性质：向量范数的性质：性质性质1,nx yrxyxy性质性质212(,)nxxx是是 的的n元连续函数元连续函数. .x设设 和和 是是 上定义的两种范数，如果存在上定义的两种范数，如果存在正数正数12ncxxcxxr nr满足满足 12,c c则称则称 和和 是是 上等价的向量范数。上等价的向量范数。nr （等价性（等价性/*equivalence property*/）性质性质3212xxn x例如例如性质性质4向量范数的等价性具有向量范数的等价性具有传递性传递性。性质性质5nr的所有向量范数是的所有向量范数是彼此等价彼此等价的

6、。的。（向量序列向量序列的范数极限的范数极限）即向量序列的即向量序列的范数收敛范数收敛等价于向量等价于向量分量收敛分量收敛性质性质6设设knxr ( ), ,则则 的充要条件是的充要条件是0( )limkkxx 01 2( )lim, ,kiikxxin 二、二、 矩阵范数（矩阵范数（/*matrix norm*/）正定性：正定性：齐次性：齐次性：三角不等性：三角不等性：a0,n nar 且且a00a ,n naaarr ,n nababa br 则称则称 为为 中矩阵中矩阵 的的范数范数。an nr a 赋范赋范线性空间线性空间n nr 可以推广到可以推广到 n nc 相容性相容性:,n n

7、aba ba br 2def设设 是是 的一个映射，若对的一个映射，若对n nrr n na r 存在唯一实数存在唯一实数 与之对应，且满足与之对应，且满足a ()ijn naa 是一种是一种矩阵矩阵范数。范数。例例3 3：设设 ，证明：，证明：12211()nnijfijaa 证明：证明：只需验证范数的只需验证范数的4个条件成立即可。个条件成立即可。上述范数可以看成是上述范数可以看成是 维向量的维向量的2-范数，故只需验证范数，故只需验证2n记记()ijn nbb 22111nnnirrjfijraba b 221111()()nnnnirrjijrrab 211()nnirira 211(

8、)nnrjjrb 22ffab frobenius范数范数简称简称f-范数范数1122( ()( ()ttfatr a atr aa12n其中其中1( )niiitr aa 称之为矩阵称之为矩阵 的的迹迹ai 是是 的的特征值特征值ta a设设 是是 上的范数，上的范数， 是是 上的范数上的范数nrx a n nr axax 如果对如果对 满足满足,nn nxrar 则称上述矩阵范数与向量范数则称上述矩阵范数与向量范数相容相容。3def相容性相容性（/*compatibility*/）证明：证明：设设12(,)tnnxx xxr 显然它是一种向量范数。显然它是一种向量范数。令令12000000

9、nxxxbx 设设 是是 中的任意一种矩阵范数，则在中的任意一种矩阵范数，则在a n nr 中至少存在一种向量范数中至少存在一种向量范数 ，使得，使得 和和 是是相容相容的。的。nrx a x 性质性质记记()ijn naa 由由 得得aba b 11121121222212000000000nnnnnnnaaaxaaaxaaax 11121121222212000000000nnnnnnnaaaxaaaxaaax 11211000000000njjjnjjjnnjjja xa xaba x 而而ax axax 4def从属性从属性（/*subordination*/）00axax x a n

10、 nar 设矩阵范数设矩阵范数 与向量范数与向量范数 相容相容，且对每一个，且对每一个都存在一个都存在一个非零向量非零向量 满足满足0nxr 则称则称 是是从属于从属于向量范数向量范数 的矩阵范数。的矩阵范数。a x 1i 从属于从属于向量范数向量范数 的的必要条件必要条件：a x 证明：证明：矩阵范数与向量范数的矩阵范数与向量范数的相容性：相容性：axxaaxxaxax3 5 3th . .1n nxaaxar max, nr设设 是是 中的一种中的一种向量向量范数范数, ,若定义若定义 则则 是是 上的一种上的一种矩阵矩阵范数范数. . n nr 非负性：非负性：设设 ，则，则ao 0ii

11、e ae,由由知知00iiaeaea 齐次性：齐次性：1maxxaaxa 三角不等性：三角不等性：1xabab x max ()11xxaxbx maxmax1xaxbx max()ab相容性：相容性：1xababx max1xa bx max()1xabx max()ab 矩阵范数的矩阵范数的一般定义形式：一般定义形式：1pn nppxaaxar max,3 5 4th . .上述一般定义形式中分别取上述一般定义形式中分别取从而得到常用的从而得到常用的3种分别种分别从属于从属于它们的矩阵范数：它们的矩阵范数：1 2p , ,列范数：列范数：111maxnijj niaa 记记()ijn na

12、a 行范数：行范数：11maxniji njaa 谱范数：谱范数：12a 其中其中 是是 的的最大最大特征值特征值1 ta a谱半径谱半径1()maxii na 12()ta a 谱范数：谱范数：12a 其中其中 是是 的的最大最大特征值特征值1 ta a2221xaax max2121ttxxa a x max() 2121txaxax max()证明：证明：ta a因为因为 是是半正定半正定的对称阵的对称阵,可设其特征值为可设其特征值为120n 其对应的其对应的正交规范特征向量正交规范特征向量为为1nnvvr ,则对则对2211nniixrxx ,2111nniiiiixv ,21ntti

13、iix a ax 1 1111 11 111ttttv a avvvv v 2221xaax max2121ttxxa a x max() 1 例例4 4：给定矩阵给定矩阵210111012a 求矩阵求矩阵 的的1、2、 范数。范数。a 13a 3a 210111012taa23a 若若 是是实对称实对称矩阵，则矩阵，则a2( )aa 矩阵矩阵 的特征值为的特征值为a0 2 3, , 3 5 5th . . 2221tnay axx yrxy max: ,设设 , ,则则n nar 222uaava 222ttaaa a 对任意的正交矩阵对任意的正交矩阵 和和 , ,有有uvfffuaava

14、356th . .设设 是是 上的任意一种矩阵范数，则对上的任意一种矩阵范数，则对n nc n nac 有有()aa 对对0n nac ,至少存在一种至少存在一种从属从属的矩阵的矩阵范数范数 ，满足，满足()aa 可看成是可看成是 维向量空间，由向量范数的维向量空间，由向量范数的性质性质3得得2nn nr 3 5 6th . .设设 和和 是是 上定义的两种范数，则存在上定义的两种范数，则存在正数正数,n nm aam aar n nr ，满足，满足 ,m m（矩阵范数的（矩阵范数的等价性等价性） 357th . .设设 , ,则有则有n nac 1kkaoa lim()0kka 收敛的充要条件是收敛的充要条件是 . . 358th . .设设 , ,则有则有n nac 1a ( ) 当当 收敛时收敛时, ,有有0kk