第五章-矩阵分解课件

本节介绍矩阵的LU分解。LU分解可用于求行列式、逆矩阵、解线性方程组等。

5.1矩阵的LU分解本节介绍矩阵的LU分解。LU分解可用于求行列式、逆矩1A左乘E，即是对A作相应的初等行变换.若用Gauss消去法将矩阵A转化成一个阶梯形矩阵U，相应的初等变换对应的矩阵为，则A左乘E，即是对A作相应的初等行变换.若用Gauss2第五章--矩阵分解课件3第五章--矩阵分解课件4定理5.1.1设A是的矩阵，则存在置换矩阵P使得

其中L是单位下三角阵，U是的阶梯形矩阵。

定理5.1.1设A是的矩阵，则存在置换矩阵P使得5定义5.1.1设A是的矩阵，如果A（或A的某个排列PA）可分解为(或其中L是单位下三角阵,U是阶梯形矩阵，则称此分解为A的Doolittle分解。如果A(或PA)可分解为(或其中L是下三角矩阵，U是非零对角元为1的阶梯形矩阵，则此称分解为A的Crout分解。例5.1.3定义5.1.1设A是的矩阵，如果A（或A的某个6例5.1.4定理5.1.2设A是的正定矩阵，则存在的下三角阵L使得此分解称为矩阵A的Cholesky分解。例5.1.4定理5.1.2设A是的正定矩阵，75.1.2LU分解的应用

矩阵的LU分解最常应用于求解线性方程组，首先我们作分解，然后求解方程组，求解过程分两步进行：

5.1.2LU分解的应用矩阵的LU分解最常应8首先解线性方程组，可得

.

例5.1.5例5.1.6例5.1.7(2)接着计算原方程组的解，即求解方程组。

首先解线性方程组，可得例5.1.5(2)接着9有些时候，线性方程组的系数矩阵不变而右端项发生了变化，若此时已经得到了系数矩阵LU的分解，则当右端项发生变化时，只需求解两个三角方程组即可（,），而不必重新进行Gauss消去，这样就可大大节省计算量。有些时候，线性方程组的系数矩阵不变而右端项发生了变化10若是的精确解，则即是的精确解，从而达到改进解的目的。当然很可能还存在误差，得到的是，而不是。此时设，解线性方程组，得到，将的解改进为。若是的精确解，则即是的11如此继续下去，可以证明，只要cond（A）不是太大，序列最终会收敛到的解，通常只需迭代几步就可以得到很精确的解。

如此继续下去，可以证明，只要cond（A）125.2QR分解QR分解在解决最小二乘问题，特征值的计算等方面有十分重要的应用。5.2QR分解QR分解在解决最小二乘问题，特征135.2.1Householder变换在平面解析几何中，将向量x映射为关于x轴对称的向量y的变换称为关于x轴的镜像变换（见图5.2.1）。设，则5.2.1Householder变换在平面解析几何14其中,H是正交矩阵，且detH=-1其中,H是正交矩阵，且detH=-115图（5.2.1）图（5.2.2）图（5.2.1）图（5.2.2）16定义5.2.1设单位列向量，称矩阵为Householder矩阵，称Householder矩阵确定的线性变换为Householder变换。

定义5.2.1设单位列向量，称为Househo17若u不是单位向量，则定义为Householder矩阵，对应的变换称为Householder变换。Householder变换将向量x映为关于“与u垂直的子空间”对称的向量(见图5.2.3)若u不是单位向量，则定义Householde18图5.2.3图5.2.319Householder矩阵具有如下的性质：

(1)（H是Hermit矩阵）

(2)（H是酉矩阵）

(3)(4)（H是自逆矩阵）

(5)Householder矩阵具有如下的性质：(1)20例5.2.1例5.2.2定理5.2.1设是单位列向量，则对中的任意向量x，都存在Householder矩阵使得，其中，且为实数。例5.2.1例5.2.2定理5.2.1设是单215.2.2矩阵的QR分解

下面我们探讨如何利用Householder变换将矩阵化为上三角矩阵。我们以n=3的情形开始讨论.设5.2.2矩阵的QR分解下面我们探讨如何利用H22由例5.2.1知存在Householder矩阵使得其中由例5.2.1知存在Householder矩阵使得其中23此时接下来可构造H使得其中此时接下来可构造H使得其中24令由矩阵分块乘法可知令由矩阵分块乘法可知25记,则由于是酉矩阵，则和Q都是酉矩阵。

记,26定理5.2.2设，则存在酉矩阵Q及上三角矩阵R，使定理5.2.2设，则存在酉矩阵Q及上三角矩阵27例5.2.3定义5.2.2设，如果存在n阶酉矩阵Q和n阶上三角矩阵R，使得,则称此分解为A的QR分解(或酉三角分解)。当时称为A的正交三角分解。

例5.2.3定义5.2.2设，如果存在n阶酉28例5.2.4定理5.2.3设，则存在酉矩阵使得，其中是阶梯型矩阵。例5.2.4定理5.2.3设，则存在酉矩295.2.3QR分解的应用QR分解可用于求解线性方程组的最小二乘解.5.2.3QR分解的应用QR分解可用于求解线性30例如要求，使得方程组

例如要求，使得方程组315.3.1奇异值分解5.3奇异值分解设A是的非奇异矩阵，由于是Hermite矩阵，则由Schur分解定理知存在酉矩阵，使得，其中是的特征值。

5.3.1奇异值分解5.3奇异值分解设A是32第五章--矩阵分解课件33由上述分析可知AV的各列是相互正交的，且

令由上述分析可知AV的各列是相互正交的，令34则因此U是酉矩阵。

则因此U是酉矩阵。35由于其中，于是有

由于其中，于是有36则称为A的奇异值。定义5.3.1设A是的矩阵，的特征值为则称为A的奇异值。定义5.3.137定理5.3.1设A是的矩阵，rank(A)=r,则（1）存在酉矩阵,使得其中是A的全部非零奇异值。

定理5.3.1设A是的矩阵，rank(A)=r,（38例5.3.1例5.3.2其中例5.3.1例5.3.2其中39(2)（若A可逆）；定理5.3.2设A是的矩阵，其奇异值分解为，则(1)（最大的奇异值）；

(3)。

(2)（若A可逆）；定理5.405.3.2奇异值分解的应用(1)计算线性方程组的最小二乘解设A是矩阵，b是n维列向量，考虑如下线性方程组

5.3.2奇异值分解的应用(1)计算线性方程组的最小二乘41在很多情形下，上述方程组没有解，因此，我们计算其最小二乘解，即求x使得最小。在很多情形下，上述方程组没有解，因此，我们计算其最小42其中U,V是酉矩阵。可以证明2-范数具有酉不变性，因此

设的奇异值分解为，其中U,V是酉矩阵。可以证明2-范数具设的奇异值43由此可知的最小二乘解即是

的最小二乘解。

由此可知的最小二乘解即是的最小二乘解。44令则令则45即即46要使上述方程组的左右两端尽可能相等，只需令

要使上述方程组的左右两端尽可能相等，只需令47即可（其实可以是任意数，它们是自由变量）。那么

是线性方程组的最小二乘解。

即可（其实可以是任意数，是线性方程48(2)计算矩阵的值空间和零空间

设A是的矩阵，A的奇异值分解为

(2)计算矩阵的值空间和零空间设A是的矩49由于由于50其中r是矩阵A的秩，从而

其中r是矩阵A的秩，从而51因此例5.3.4因此例5.3.452(3)数字图像逼近

设A的奇异值分解为，则A可表示为

与A相距最近的秩为k的矩阵就是将上式截断取前k项需k(m+n+1)个存储单元(3)数字图像逼近设A的奇异值分解为53因此我们可以合理地选择k，使得尽量接近于A，同时存储量又相对较小，便于储存和传输。因此我们可以合理地选择k，使得尽量接近于A，同时存储量54图5.3.2展示了截取不同前k项的逼近效果。原始照片的灰度矩阵是一个320*240的矩阵，从图中可看出取k=50的逼近效果就已经很好了。它需要的存储单元是50*(320+240+1)，大大减少了存储量。图5.3.2展示了截取不同前k项的逼近效果。原始照片的灰度矩55（a）原始照片（320×240）(b)rank10逼近（a）原始照片（320×240）(b)rank10逼56（c）rank30逼近(d)rank50逼近（c）rank30逼近(d)rank50逼近575.4矩阵的满秩分解定义5.4.1设A是的矩阵，rank(A)=r>0,如果存在的列满秩矩阵F及的行满秩矩阵G使得

则称此分解为矩阵A的满秩分解。

5.4矩阵的满秩分解定义5.4.1设A是58例5.4.1定理5.4.1任意的矩阵A都有满秩分解。

例5.4.1定理5.4.1任意的矩阵A59(1)H的前r行中每一行至少含有一个非零元素，且每行第一个非零元素是1，而后m-r行元素均为0；

定义5.4.2设H是的矩阵，Rank(H)=r，满足

(1)H的前r行中每一行至少含有一个非零元素，且每行第一个60则称H为A的Hermite标准形。

(