矩阵理论讲义第四章内积空间

1、矩阵理论讲义第四章内积空间第1页，共63页，2022年，5月20日，9点19分，星期五4.1 实内积空间定义.设V 是一个实线性空间，R为实数域，2若a, b V, 存在唯一的 rR与之对应，记作(a, b ) = r, 并且满足(1) (a, b ) = (b, a ) (2) (a +b, g ) = (a, g ) + (b, g )(3) (ka, b ) = k(a, b )(4) (a, a )0, (a, a ) = 0 a = 0则称 (a, b ) 为a 与b 的内积，V 为实内积空间。实内积空间也称欧几里得(Euclid)空间。对称性线性性非负性第2页，共63页，2022年

2、，5月20日，9点19分，星期五3定义内积(内积的离散形式)例. 线性空间称为内积空间 的标准内积。第3页，共63页，2022年，5月20日，9点19分，星期五4定义内积（ 内积一般形式）A为 n 阶实正定矩阵，例. 线性空间第4页，共63页，2022年，5月20日，9点19分，星期五5定义内积（内积的连续形式）例. 线性空间Ca, b，f , gCa, b第5页，共63页，2022年，5月20日，9点19分，星期五6由定义知（关于第二个元素的线性性质）(5) (a , b +g ) = (a, b ) + (a, g )(6) (a, kb ) = k(a, b )第6页，共63页，2022

3、年，5月20日，9点19分，星期五向量长度, Cauchy-Schwarz不等式定义. 设V 为实内积空间，称 为向量a 的长度，记作 |a |。定理. 设V 是实内积空间，a , b V , k R ，则等号成立当且仅当a , b 线性相关；Cauchy-Schwarz不等式三角不等式正定性齐次性第7页，共63页，2022年，5月20日，9点19分，星期五第8页，共63页，2022年，5月20日，9点19分，星期五第9页，共63页，2022年，5月20日，9点19分，星期五第10页，共63页，2022年，5月20日，9点19分，星期五11例：利用Cauchy-Schwaz不等式证明第11页，

4、共63页，2022年，5月20日，9点19分，星期五向量的夹角由Cauchy-Schwaz不等式可知第12页，共63页，2022年，5月20日，9点19分，星期五向量的正交定义. 设V 是实内积空间，a , b V , 若 (a , b ) = 0 , 则称 a 与b 正交，记作 a b 。a 与b 正交这就是实内积空间中的勾股定理。第13页，共63页，2022年，5月20日，9点19分，星期五第14页，共63页，2022年，5月20日，9点19分，星期五15向量a 与b 在该基下的坐标为第15页，共63页，2022年，5月20日，9点19分，星期五16第16页，共63页，2022年，5月20

5、日，9点19分，星期五度量矩阵矩阵 A 称为基的度量矩阵。即 A 为实对称矩阵。即 A 为实正定矩阵。第17页，共63页，2022年，5月20日，9点19分，星期五定理：设内积空间V 的两个基是：它们的度量矩阵分别为A与B，则A与B是合同的，即存在可逆矩阵P ，使得其中可逆矩阵P 是由前组基到后组基的过渡矩阵。第18页，共63页，2022年，5月20日，9点19分，星期五4.2 标准正交基若它们两两正交，则称其为一个正交向量组。定理：正交向量组必是线性无关的。第19页，共63页，2022年，5月20日，9点19分，星期五20且其中每个向量的长度都是 1，注意：(1) 标准正交基的度量矩阵是单位

6、矩阵，即(2) 向量在标准正交基下的坐标是该向量在对应的基向量上的正投影，即第20页，共63页，2022年，5月20日，9点19分，星期五Gram-Schmidt 正交化过程Gram-Schmidt 正交化过程：设是内积空间V 中线性无关的向量组，使得则V 中存在正交向量组第21页，共63页，2022年，5月20日，9点19分，星期五Gram-Schmidt 正交化过程 图解第22页，共63页，2022年，5月20日，9点19分，星期五23令是正交向量组，并且则第23页，共63页，2022年，5月20日，9点19分，星期五记第24页，共63页，2022年，5月20日，9点19分，星期五或注意到

7、K是可逆矩阵，因此第25页，共63页，2022年，5月20日，9点19分，星期五是正交向量组下面用归纳法说明由归纳法假设可知是正交向量组。即第26页，共63页，2022年，5月20日，9点19分，星期五矩阵A的QR分解推论1：n 维实内积空间V 必存在标准正交基。推论2：n 维实内积空间V 中任一正交向量组都可扩充成V 的一个正交基。推论3: 设A为可逆阵，则存在正交阵Q和可逆上三角阵R使得 A = QR ，称为矩阵A的QR分解。第27页，共63页，2022年，5月20日，9点19分，星期五28设A为 n 阶可逆阵，则利用Gram-Schmidt正交化过程，第28页，共63页，2022年，5月

8、20日，9点19分，星期五29第29页，共63页，2022年，5月20日，9点19分，星期五30例: 求矩阵A的QR分解，第30页，共63页，2022年，5月20日，9点19分，星期五第31页，共63页，2022年，5月20日，9点19分，星期五第32页，共63页，2022年，5月20日，9点19分，星期五第33页，共63页，2022年，5月20日，9点19分，星期五第34页，共63页，2022年，5月20日，9点19分，星期五4.3 正交子空间定义: 设W, U是实内积空间V 的子空间，(1) a V , 若b W, 都有(a, b ) = 0, 则称a 与W 正交，记作a W ;(2) 若

9、a W, b U, 都有(a, b ) = 0, 则称W 与U 正交，记作W U ;(3) 若W U，并且W + U = V, 则称U 为W 的正交补。注意：若W U，则 W与U 的和必是直和。第35页，共63页，2022年，5月20日，9点19分，星期五正交补的存在唯一性定理: 设W 是实内积空间V 的子空间，则W 的正交补存在且唯一，记该正交补为 ，并且第36页，共63页，2022年，5月20日，9点19分，星期五向量的正投影定义: 设W 是实内积空间V 的子空间，则称向量b 为向量a 在W上的正投影，称向量长度|g |为向量a 到W 的距离。WdbOag第37页，共63页，2022年，5

10、月20日，9点19分，星期五垂线最短定理定理: 设W 是实内积空间V 的子空间，aV , b 为a 在W上的正投影，则 dW, 有并且等号成立当且仅当 b = d。Wdba第38页，共63页，2022年，5月20日，9点19分，星期五最小二乘法 问题提出:实系数线性方程组（1） 即任意 都可能使 （2） 不等于零可能无解，第39页，共63页，2022年，5月20日，9点19分，星期五 设法找实数组 使（2）最小, 这样的 为方程组（1）的最小二乘解， 此问题叫最小二乘法问题.最小二乘法的表示:设 （3） 第40页，共63页，2022年，5月20日，9点19分，星期五用距离的概念，（2）就是 由

11、（3）, 设 则要找 使（2）最小，等价于找子空间 中向量 使 到它的距离 比到 中其它向量的距离都短. 第41页，共63页，2022年，5月20日，9点19分，星期五设这等价于 （4） 即 这样（4）等价于（5） 为此必或这就是最小二乘解所满足的代数方程. 第42页，共63页，2022年，5月20日，9点19分，星期五 已知某种材料在生产过程中的废品率 与某种 化学成份 有关下列表中记载了某工厂生产 中 与相应的 的几次数值：找出 对 的一个近似公式.例题第43页，共63页，2022年，5月20日，9点19分，星期五把表中数值画出图来看，发现它的变化趋势近于一条直线 因此我们决定选取 的一次

12、式 来表达当然最好能选到适当的使得下面的等式解：都成立.第44页，共63页，2022年，5月20日，9点19分，星期五实际上是不可能的任何 代入上面各式都发生 些误差. 于是想找到 使得上面各式的误差的平方和最小， 即找 使 最小.易知 第45页，共63页，2022年，5月20日，9点19分，星期五 最小二乘解 所满足的方程就是 第46页，共63页，2022年，5月20日，9点19分，星期五解得（取三位有效数字）.即为 第47页，共63页，2022年，5月20日，9点19分，星期五4.4 正交变换定义: 设T 是实内积空间V 的线性变换，若aV 有则称T 为V 的正交变换。第48页，共63页，

13、2022年，5月20日，9点19分，星期五正交变换的特征刻画定理: 设T 是实内积空间V 的线性变换，a, b V ，则下列命题等价，第49页，共63页，2022年，5月20日，9点19分，星期五50推论：(1) 两个正交变换的积仍是正交变换；(2) 正交变换的逆变换仍是正交变换。第50页，共63页，2022年，5月20日，9点19分，星期五Householder 变换构造 的正交变换讨论正交变换H 的几何意义。第51页，共63页，2022年，5月20日，9点19分，星期五故H(a)是a关于子空间的反射，dagbwO-g矩阵H 称为Householder矩阵，变换H 称为Householder

14、变换，变换H 也称初等反射变换。第52页，共63页，2022年，5月20日，9点19分，星期五53求一个初等反射变换H，使H(a)=b。只需求一个w 使得b 是a 关于子空间 的反射，于是w 与a - b 平行，故可取第53页，共63页，2022年，5月20日，9点19分，星期五4.5 复内积空间定义.设V 是一个复线性空间，C 为复数域，54若a, b V, 存在唯一的 cC与之对应，记作(a, b ) = c, 并且满足(2) (a +b, g ) = (a, g ) + (b, g )(3) (ka, b ) = k(a, b )(4) (a, a )0, (a, a ) = 0 a =

15、 0则称 (a, b ) 为a 与b 的内积，V 为复内积空间。复内积空间也称酉空间。对称性线性性非负性(1) (a, b ) = (b, a ) 第54页，共63页，2022年，5月20日，9点19分，星期五55定义内积例. 线性空间称为复内积空间 的标准内积。第55页，共63页，2022年，5月20日，9点19分，星期五56在复内积空间中还有(5) (a , b +g ) = (a, b ) + (a, g )(6) (a, kb ) = k(a, b )(8) Cauchy-Schwaz不等式且 (a , b ) = 0 a 与b 正交(10) Schmidt正交化过程把线性无关的向量组

16、变成正交组第56页，共63页，2022年，5月20日，9点19分，星期五57向量a 与b 在该基下的坐标为第57页，共63页，2022年，5月20日，9点19分，星期五58第58页，共63页，2022年，5月20日，9点19分，星期五度量矩阵矩阵 A 称为基的度量矩阵。，即 A 为复正定矩阵。，则称 A 为Hermite矩阵。，即A 为Hermite矩阵。称 A 为复正定矩阵。第59页，共63页，2022年，5月20日，9点19分，星期五设T 是复内积空间V 的线性变换，若aV 有则称T 为V 的酉变换。第60页，共63页，2022年，5月20日，9点19分，星期五定理: 设T 是复内积空间V 的线性变换，a, b V ，则下列命题等