第五章-矩阵分解VIP

本节介绍矩阵的LU分解。LU分解可用于求行列式、逆矩阵、解线性方程组等。

5.1矩阵的LU分解A左乘E，即是对A作相应的初等行变换.若用Gauss消去法将矩阵A转化成一个阶梯形矩阵U，相应的初等变换对应的矩阵为，则定理5.1.1设A是的矩阵，则存在置换矩阵P使得

其中L是单位下三角阵，U是的阶梯形矩阵。

定义5.1.1设A是的矩阵，如果A（或A的某个排列PA）可分解为(或其中L是单位下三角阵,U是阶梯形矩阵，则称此分解为A的Doolittle分解。如果A(或PA)可分解为(或其中L是下三角矩阵，U是非零对角元为1的阶梯形矩阵，则此称分解为A的Crout分解。例5.1.3例5.1.4定理5.1.2设A是的正定矩阵，则存在的下三角阵L使得此分解称为矩阵A的Cholesky分解。5.1.2LU分解的应用

矩阵的LU分解最常应用于求解线性方程组，首先我们作分解，然后求解方程组，求解过程分两步进行：

首先解线性方程组，可得

.

例5.1.5例5.1.6例5.1.7(2)接着计算原方程组的解，即求解方程组。

有些时候，线性方程组的系数矩阵不变而右端项发生了变化，若此时已经得到了系数矩阵LU的分解，则当右端项发生变化时，只需求解两个三角方程组即可（,），而不必重新进行Gauss消去，这样就可大大节省计算量。若是的精确解，则即是的精确解，从而达到改进解的目的。当然很可能还存在误差，得到的是，而不是。此时设，解线性方程组，得到，将的解改进为。如此继续下去，可以证明，只要cond（A）不是太大，序列最终会收敛到的解，通常只需迭代几步就可以得到很精确的解。

5.2QR分解QR分解在解决最小二乘问题，特征值的计算等方面有特别重要的应用。5.2.1Householder变换在平面解析几何中，将向量x映射为关于x轴对称的向量y的变换称为关于x轴的镜像变换（见图5.2.1）。设，则其中,H是正交矩阵，且detH=-1图（5.2.1）图（5.2.2）定义5.2.1设单位列向量，称矩阵为Householder矩阵，称Householder矩阵确定的线性变换为Householder变换。

若u不是单位向量，则定义为Householder矩阵，对应的变换称为Householder变换。Householder变换将向量x映为关于“与u垂直的子空间”对称的向量(见图5.2.3)图5.2.3Householder矩阵具有如下的性质：

(1)（H是Hermit矩阵）

(2)（H是酉矩阵）

(3)(4)（H是自逆矩阵）

(5)例5.2.1例5.2.2定理5.2.1设是单位列向量，则对中的任意向量x，都存在Householder矩阵使得，其中，且为实数。5.2.2矩阵的QR分解

下面我们探讨如何利用Householder变换将矩阵化为上三角矩阵。我们以n=3的情形起先探讨.设由例5.2.1知存在Householder矩阵使得其中此时接下来可构造H使得其中令由矩阵分块乘法可知记,则由于是酉矩阵，则和Q都是酉矩阵。

定理5.2.2设，则存在酉矩阵Q及上三角矩阵R，使例5.2.3定义5.2.2设，如果存在n阶酉矩阵Q和n阶上三角矩阵R，使得,则称此分解为A的QR分解(或酉三角分解)。当时称为A的正交三角分解。

例5.2.4定理5.2.3设，则存在酉矩阵使得，其中是阶梯型矩阵。5.2.3QR分解的应用QR分解可用于求解线性方程组的最小二乘解.例如要求，使得方程组

5.3.1奇异值分解5.3奇异值分解设A是的非奇异矩阵，由于是Hermite矩阵，则由Schur分解定理知存在酉矩阵，使得，其中是的特征值。

由上述分析可知AV的各列是相互正交的，且

令则因此U是酉矩阵。

由于其中，于是有

则称为A的奇异值。定义5.3.1设A是的矩阵，的特征值为定理5.3.1设A是的矩阵，rank(A)=r,则（1）存在酉矩阵,使得其中是A的全部非零奇异值。

例5.3.1例5.3.2其中(2)（若A可逆）；定理5.3.2设A是的矩阵，其奇异值分解为，则(1)（最大的奇异值）；

(3)。

5.3.2奇异值分解的应用(1)计算线性方程组的最小二乘解设A是矩阵，b是n维列向量，考虑如下线性方程组

在很多情形下，上述方程组没有解，因此，我们计算其最小二乘解，即求x使得最小。其中U,V是酉矩阵。可以证明2-范数具有酉不变性，因此

设的奇异值分解为，由此可知的最小二乘解即是

的最小二乘解。

令则即要使上述方程组的左右两端尽可能相等，只需令

即可（其实可以是任意数，它们是自由变量）。那么

是线性方程组的最小二乘解。

(2)计算矩阵的值空间和零空间

设A是的矩阵，A的奇异值分解为

由于其中r是矩阵A的秩，从而

因此例5.3.4(3)数字图像靠近设A的奇异值分解为，则A可表示为

与A相距最近的秩为k的矩阵就是将上式截断取前k项需k(m+n+1)个存储单元因此我们可以合理地选择k，使得尽量接近于A，同时存储量又相对较小，便于储存和传输。图5.3.2展示了截取不同前k项的靠近效果。原始照片的灰度矩阵是一个320*240的矩阵，从图中可看出取k=50的靠近效果就已经很好了。它须要的存储单元是50*(320+240+1)，大大削减了存储量。（a）原始照片（320×240）(b)rank10靠近（c）rank30靠近(d)rank50靠近5.4矩阵的满秩分解定义5.4.1设A是的矩阵，rank(A)=r>0,如果存在的列满秩矩阵F及的行满秩矩阵G使得

则称此分解为矩阵A的满秩分解。

例5.4.1定理5.4.1任意的矩阵A都有满秩分解。

(1)H的前r行中每一行至少含有一个非零元素，且每行第一个非零元素是1，而后m-r行元素均为0；

定义5.4.2设H是的矩阵，Rank(H)=r，满足

则称H为A的Hermite标准形。

(2)设H中第i行的第一个非零元素1位于第