矩阵分析 课件 第4章 矩阵分解

矩阵分析第四章矩阵分解4.1矩阵的三角分解4.2矩阵的QR分解4.3的满秩分解4.4矩阵的奇异值分解4.1矩阵的三角分解

4.1.1三角分解的存在性与唯一性定义4.1如果

n阶矩阵

A能够分解为一个下三角矩阵L和一个上三角矩阵U的乘积，则称其为三角分解或LU分解。将矩阵A分解为一个单位下三角矩阵与一个上三角矩阵的乘积的分解法叫做Doolittle分解。将矩阵A分解为一个下三角矩阵与一个单位上三角矩阵的乘积的分解法叫做Crout分解。将矩阵A

分解为A=LDU，其中L

为单位下三角矩阵，D为对角矩阵，

U为单位上三角矩阵，则称之为LDU分解。定理4.1设

，则

A可以作三角分解的证

（必要性）若矩阵A可以作三角分解，即A=LU，其中L为下三角形，U为上三角形。由于A可逆，则

L和U均可逆。若设根据可逆性可知，将矩阵

A，L和U分块，充分必要条件是，其中为A的k

阶顺序主子式。其中和分别是A，L和U的k阶顺序主子阵，且和分别是下三角矩阵和上三角矩阵。由矩阵的分块乘法运算，得两侧同时求行列式，得到（充分性）对阶数n用数学归纳法证明。当时，结论显然成立。假设对结论成立，即当A为k阶可逆方阵时，A有三角分解。则当时，将A写成分块矩阵，同时考虑到k阶可逆方阵有三角分解的假设，得到我们令，则取即可。即即当时，结论成立。注：从上面的证明过程可知，n阶矩阵A的三角分解不唯一。同时该定理条件说明，并不是每个可逆矩阵都可以做三角分解，如矩阵就不能作三角分解。定理4.2矩阵

的LDU分解式唯一的充分必要条件为A的顺序主子式。其中对角矩阵，元素证（必要性）矩阵有LDU分解，即A有三角分解。由定理4.1,A的顺序主子式

（充分性）由于可逆矩阵A的顺序主子式，根据定理4.1，A

有三角分解，设。记则为矩阵A的LDU分解。下证唯一性。若矩阵A有两个LDU分解：则，该等式的左边是单位下三角矩阵，右边是上三角矩阵，所以，。因此，该等式的左边是对角矩阵，右边是单位上三角矩阵，所以。唯一性得证。下面计算。类似于定理4.1的证明过程，将矩阵A，L

，D和U分块，可得，注意到，L为单位下三角形，U为单位上三角形，D为对角阵，得到。定理4.3矩阵

有唯一Doolittle分解或Crout分解的充分必要条件为

A的顺序主子式

。证

我们只证明矩阵有唯一Doolittle分解的情况。矩阵有唯一的Crout分解的情况可类似证明。（必要性）若矩阵有Doolittle分解，则A有三角分解，由定理4.1，A的顺序主子式。（充分性）可逆矩阵A的顺序主子式，根据定理4.2，A有唯一的LDU分解式，则为A的一个Doolittle分解。设为A

的另一个Doolittle分解形式，则，即，该等式的左边是单位下三角矩阵，右边是上三角矩阵，所以，即。唯一性得证。4.1.2三角分解的计算

设的顺序主子矩阵为非奇异矩阵，且，。对于Doolittle分解：因为

，即由矩阵乘法可知，，具体计算过程中，应根据矩阵乘法，观察矩阵乘积的第一行，得到U的第一行元素；再观察矩阵乘积的第一列，可得到L的第一列元素；接下来，依次观察矩阵乘积的第二行和第二列，可分别得到U的第二行元素和L的第二列元素；以此类推。对于Crout分解：与上面的推倒类似。，；对于，计算在具体计算过程中，应根据矩阵乘法，观察矩阵乘积的第一列，得到L的第一列元素，再观察矩阵乘积的第一行，可得到U的第一行元素；接下来，依次观察矩阵乘积的第二列和第二行，可分别得到L的第二列元素和U的第二行元素；以此类推对于LDU分解：在求出了A的Doolittle分解

之后，

的LDU分解为

；同理也可根据

A的Crout分解，此时

A的LDU分解为

。例4.1求矩阵的Doolittle分解与Crout分解。解由Doolittle分解的递推公式有所以Doolittle分解为再由Crout分解的递推公式有所以Crout分解为4.1.3对称三角分解

定理4.4Hermite正定矩阵A存在下三角矩阵

G，使得

，称之为A

的对称三角分解（也叫做平方根分解，或Cholesky分解）。类似于矩阵A的Doolittle分解的计算格式的推导过程，我们可以得到A的Cholesky分解的计算格式：例4.2求矩阵的Cholesky分解。解易于验证矩阵A是实对称正定矩阵，由Cholesky分解的递推公式有所以Cholesky分解为注，该定理的条件仅是充分的，如矩阵的秩为1，且不满足定理4.5的条件，但都是A的三角分解。定理4.6矩阵

的LDU分解式唯一的充分必要条件为A的顺序主子式

，其中L是单位下三角矩阵，

U是单位上三角矩阵。三角分解在求解线性方程组中的应用对于线性方程组而言，如果其系数矩阵A为非奇异矩阵，并且，则存在三角分解。这时，就与方程组等价，而方程组中的两个子方程组很容易求解，这就是解线性方程组的三角分解法。例4.3求解线性方程组，其中

解例4.1已求得由递推求得而由回代求得本节小结010203三角分解的存在性与唯一性三角分解的计算对称三角分解

P86

：1预习：4.2节本节作业4.2矩阵的QR

分解

4.2矩阵的QR

分解

4.2.1Givens矩阵在二维平面中，笛卡尔直角坐标系的旋转变换为这是一个正交变换，所以T是正交矩阵，。一般地，对于n维酉空间而言，旋转变换定义如下。定义4.2设复数c与s

满足

，则称矩阵为Givens矩阵（或初等旋转矩阵），简记为，由Givens矩阵所确定的线性变换叫做Givens变换（或初等旋转变换）。容易验证，当

，且c与s为实数时，存在角度，使得。此时，这样的Givens矩阵恰为平面旋转矩阵。Givens矩阵一定是酉矩阵，并且同时，则有所以，当时，取c=1，s=0，则，此时。当时，取就可以使定理4.7设，则存在有限个Givens矩阵，使得满足定理4.8设，则存在有限个Givens矩阵之积，记作，使得。称之为用Givens变换化向量x与同方向。证

由定理4.7，存在Givens矩阵

，使得对，又存在Givens矩阵，使得依次进行下去，得令，则有4.2.2Householder矩阵在二维平面中，将向量x映射为关于ox轴对称的向量y的变换，叫做关于ox轴的镜象变换（或初等反射变换）。设，通过镜象变换有其中，这里的矩阵H是正交矩阵且。定义4.3设单位向量，称为Householder矩阵（或初等反射矩阵），由Householder矩阵所确定的线性变换称为Householder变换（或初等反射变换）。Householder矩阵具有以下性质：（1）Householder矩阵是Hermite矩阵，即；（2）Householder矩阵是酉矩阵，即；（3）Householder矩阵是对合矩阵，即；（4）Householder矩阵是自逆矩阵，即；（5）；（6）

是n+r阶Householder矩阵。定理4.9任意给定非零列向量

及单位列向量

，则存在Householder矩阵H

，使得

。证

当时，取单位向量u满足，则当时，取，由于则

例4.4

用Givens变换和Householder变换化

与

同方向。解

（用Givens变换）取

，则则使得使得。再取（用Householder变换），，则可计算于是，其中定理4.10

Givens矩阵是两个Householder矩阵的乘积，即

，其中分别为在两个单位向量下的Householder矩阵。注

Householder矩阵不能由若干个Givens矩阵的乘积表示，因为，而4.2.3QR分解定义4.4设n阶复矩阵A能够分解为一个n阶酉矩阵Q和一个

n阶非奇异上三角矩阵R之积（或n阶实矩阵A能够分解为一个n

阶正交矩阵Q和一个n阶非奇异上三角矩阵R之积），即

，则称之为矩阵A的QR分解。定理4.11设A是任意n阶复矩阵，则矩阵A有QR分解。证

（Householder变换方法）将矩阵A按列分块为由定理4.9可知，存在n阶Householder矩阵，使得因此其中是n-1阶复矩阵。再将按列分块为，则存在n-1阶Householder矩阵，使得，（），记则是Householder矩阵，并且其中是n-2阶矩阵，依此类推，到第n-1步有其中都是n阶Householder矩阵。由于的自逆性，所以有其中是酉矩阵，R是上三角矩阵。（Givens变换方法）将矩阵A按列分块为

，由定理4.8可知，存在n阶Givens矩阵

，使得，因此

（）对于其第二列，存在n阶Givens矩阵，使得所以（）依此类推，最后得到。由此，其中是酉矩阵，R是上三角矩阵。定理4.12设A是任意

n

阶可逆复矩阵，则矩阵A可以唯一的分解为

A=QR。其中Q是n阶酉矩阵，R是具有正对角元素的上三角可逆矩阵。证

将矩阵A按列分块为

，因为矩阵A可逆，所以

线性无关，由Schmidt正交化方法将其正交化：其中再将单位化，得则有所以其中是n阶酉矩阵，R是具有正对角元素的上三角可逆矩阵。再证唯一性。设矩阵A有两个QR分解：，则，其中是具有正对角元素的上三角可逆矩阵，由于，则D仍为n

阶酉矩阵，因此D是单位矩阵。所以例4.5试求矩阵的QR分解。解分别用Householder变换，Givens变换和Schmidt正交化方法求矩阵A的QR分解。（Householder变换方法）因为，取，作单位向量则

又因为，取，作单位向量则，记，则所以矩阵A的QR分解为：（Givens变换方法）取

，则

再取

，

，则所以矩阵A的QR分解为：（利用Schmidt正交化方法）因为，，

，可见线性无关，应用Schmidt正交化得到：再单位化得到：因此，所以矩阵A的QR分解为：对于线性方程组来说，如果，则有A=QR，其中Q是n

阶酉矩阵，是上三角矩阵。则原方程组等价于，即。由于R是上三角矩阵，则可以通过回代求出x

。又由于是一个酉矩阵，它左乘任一向量都不改变其长度，故可抑制计算过程中的误差积累。所以QR分解在数值中是常用的工具之一。本节小结010203Givens矩阵Householder矩阵QR分解P86

：2预习：4.3节本节作业4.3矩阵矩阵的满秩分解

定义4.5设，如果存在列满秩矩阵和行满秩矩阵，使得A=FG

，则称之为A的满秩分解。定理4.13设

，则

A一定有满秩分解。证

当r=m时，是A的一个满秩分解；而当r=n

时，是A的一个满秩分解。下面设因为，对A施行初等行变换，可得到阶梯形矩阵其中G为矩阵，并且；则一定存在m阶可逆矩阵P（有限个初等矩阵的乘积），使得PA=B，即将矩阵分块为，且由于P可逆，有，。则其中F是列满秩矩阵，G是行满秩矩阵。注：矩阵A的满秩分解不唯一。这是因为若取任意一个r

阶非奇异矩阵D，则有例4.6求矩阵

的满秩分解。解

对矩阵A进行初等行变换可见而

，其中所以有定义4.6若

满足以下条件：（1）矩阵H的前r行中的每一行至少含有一个非零元素，并且第一个非零元素是1，而后m-r行元素均为零；（2）如果矩阵H

的第i行的第一个非零元素1在第列则；（3）矩阵H的列是单位矩阵的前r列；则称矩阵H为Hermite标准形（或行最简型）。Hermite标准形有如下形式定义4.7以n阶单位矩阵I的n个列向量为列构成的n

阶矩阵叫做置换矩阵。其中是的一个全排列。对于任意一个秩为r的矩阵A

，均可以经过初等行变换将其化为Hermite标准形H，而且矩阵H的前r

行元素组成的行向量组线性无关。若为一个n阶置换矩阵，则AP是将A的列按的顺序重新排列，是将A

的行按的顺序重新排列，是将A

的行和列同时按

的顺序重新排列。可见Hermite标准形一定可以通过右乘置换矩阵变成的形式。下面我们将借助Hermite标准形给出另一种计算满秩分解的方法。定理4.14设的Hermite标准形为H

，则在矩阵A的满秩分解A=FG中，可以取矩阵F为A的列构成的阶矩阵，G为H

的前R行构成的阶矩阵。例4.7

求矩阵

的满秩分解解先求出矩阵A的Hermite标准形可见，。因此F为A的第1列与第2列构成的矩阵，G为H的前2行构成的矩阵，即所以对比例4.6，可以看出两种方法求得的结果是不同的，即矩阵A的满秩分解不唯一本节小结矩阵矩阵的满秩分解P86

：3预习：4.4节本节作业4.4矩阵的奇异值分解

定义4.8设

，

的特征值为则称为矩阵A的奇异值。注：与均为Hermite半正定矩阵，有相同的非零特征值，且。因此A的正奇异值的个数恰为r，且A与有相同的正奇异值。定义4.9设

，若存在m

阶酉矩阵U

和

n阶酉矩阵

V，使得