矩阵论第2章 内积空间

1、第第2章章 内积空间内积空间 2.1 内积空间的概念内积空间的概念2.2 正交基及子空间的正交关系正交基及子空间的正交关系2.3 内积空间的同构内积空间的同构2.4 正交变换正交变换2.5 点到子空间的距离与最小二乘法点到子空间的距离与最小二乘法2.6 复内积空间（酉空间）复内积空间（酉空间） 2.7 正规矩阵正规矩阵2.8* 厄米特二次型厄米特二次型 2.9* 力学系统的小振动力学系统的小振动 线性空间只是考虑了向量线性空间只是考虑了向量“加法加法”和和“数乘数乘”的两个基本线性运算，然而在线性空间中缺少向量的两个基本线性运算，然而在线性空间中缺少向量的度量的概念，例如向量的长度与夹角的度量

2、的概念，例如向量的长度与夹角 我们将在我们将在本章中引入内积的概念，得到向量的长度与夹角等本章中引入内积的概念，得到向量的长度与夹角等重要的概念重要的概念 ，深化对线性空间、线性变换的研究，深化对线性空间、线性变换的研究，由线性空间得到内积空间由线性空间得到内积空间.2.1 内积空间的概念内积空间的概念 在内积空间里，我们利用在内积空间里，我们利用“正交正交”概念，可以选择一种概念，可以选择一种特殊的、使用起来很方便的基，称为正交基特殊的、使用起来很方便的基，称为正交基. 这在普通的线这在普通的线性空间里是没有的性空间里是没有的. 正交基的引入，得到在内积空间中增加正交基的引入，得到在内积空间

3、中增加了不少在一般线性空间中所没有的、且非常有实用价值的性了不少在一般线性空间中所没有的、且非常有实用价值的性质质.2. .2 正交基及子空间的正交关系正交基及子空间的正交关系 子空间正交的概念子空间正交的概念 与线性空间的同构类似，以下讨论内积空间的同构问题与线性空间的同构类似，以下讨论内积空间的同构问题. 由于内积空间是定义了内积的线性空间，故下述定义的很自由于内积空间是定义了内积的线性空间，故下述定义的很自然的然的2.3内积空间的同构内积空间的同构 由定义可知，由定义可知，同构的两个欧氏空间有相同的维数同构的两个欧氏空间有相同的维数2.4 正交变换正交变换 在内积空间中有一种特别的线性变

4、换（正交变换），在在内积空间中有一种特别的线性变换（正交变换），在许多场合都很有用，这种变换在欧氏空间（有限维实内积空许多场合都很有用，这种变换在欧氏空间（有限维实内积空间）中常可叙述为几个相互等价的提法，这些提法的每一种间）中常可叙述为几个相互等价的提法，这些提法的每一种都刻画了正交变换的基本性质都刻画了正交变换的基本性质.2.5 点到子空间的距离与最小二乘法点到子空间的距离与最小二乘法 先设一个先设一个子空间子空间W，它是由，它是由向量向量1, 2,k所所生成生成，即，即W=L(1, 2,k). 说一个说一个向量向量垂直于子垂直于子空间空间W ，就是指，就是指向量向量垂直于垂直于W中中任何

5、一个向量任何一个向量. 已知已知垂直于垂直于W的的充分必要条件充分必要条件是是垂直于垂直于W中的中的每每个向量个向量i(i=1,2,k). 在中学所学在中学所学几何中几何中知道知道一个点一个点到到一个平面一个平面（或（或一条直线一条直线）上所有点的）上所有点的距离距离以垂线最短以垂线最短. 下面证明下面证明一个固定向量一个固定向量和和一个子空间中各向量间的距离一个子空间中各向量间的距离也是也是以以“垂线最短垂线最短”. 现给定现给定 ，设，设是是W中的中的向量向量，满足，满足- -垂直于垂直于W. 要要证明证明到到W中中各向量的距离以垂线最短各向量的距离以垂线最短，就就是是要证明要证明，对于，

6、对于W中中任一向量任一向量 ，有，有 |- -| |- -|. 我们可以画出下面的我们可以画出下面的示意图示意图：证明证明 由由 - -=(- -)+(- -)因因W是子空间，是子空间，W,W,则则- -W. 故故- -垂直于垂直于- -.由勾股定理，由勾股定理， |- -|2+|- -|2=|- -|2.故故 |- -| |- -|. 证毕证毕.W- - - -最小二乘法问题：最小二乘法问题：设线性方程组设线性方程组 0,0,022112222212111212111nsnsnnssssbxaxaxabxaxaxabxaxaxa无解无解. 即任何一组数即任何一组数 x1,x2,xs 都使得偏

7、差都使得偏差211221()niiissiia xa xa xb (1)(1)不等于零不等于零. 我们我们设法找实数组设法找实数组x10,x20,xs0使偏差式使偏差式(1)(1)最小最小，这样的，这样的x10,x20,xs0称为方程组称为方程组的的最小二最小二乘解乘解.这一方法就叫这一方法就叫最小二乘法最小二乘法. 下面利用下面利用欧氏空间欧氏空间的的概念概念来表达最小二乘法来表达最小二乘法，并给出并给出最小二乘解所满足的代数条件最小二乘解所满足的代数条件. 令令.,112112121212222111211AXxaxaxaYxxxXbbbBaaaaaaaaaAsjjnjsjjjsjjjsn

8、nsnnss (2)用用距离的概念距离的概念，(1)(1)就是就是最小二乘法最小二乘法就是找就是找 x10,x20,xs0 使使向量向量Y与与向量向量B的的距离最短距离最短. 但从但从(2)知道知道向量向量Y就是就是.21222122121111 nssssnnaaaxaaaxaaaxY把把A的的各列向量各列向量分别分别记成记成1, 2,s. 由它们由它们生成的子生成的子空间空间为为L(1, 2,s). Y就是就是L(1, 2,s)中的向量中的向量. 于是于是最小二乘法问题最小二乘法问题可叙述成可叙述成： |Y- -B|2 . 找找X使使(1)(1)最小最小，就是，就是在在L(1, 2,s)中

9、找一向量中找一向量Y ，使得使得B到它的距离比到子空间到它的距离比到子空间L(1, 2,s)中其它中其它向量的距离都短向量的距离都短. 应用前面所讲的应用前面所讲的结论结论，设，设ssxxxAXY 2211是所求的向量是所求的向量，则，则 C=B- -Y=B- -AX必须垂直于子空间必须垂直于子空间L(1, 2,s). 为此为此必须必须而且而且只只需需满足内积满足内积.0),(),(),(21 sCCC由由矩阵乘法规则矩阵乘法规则，上述一串，上述一串等式等式可以可以写成矩阵相写成矩阵相乘的式子乘的式子，即，即或或 ATAX=ATB这就是这就是最小二乘解所满足的代数方程最小二乘解所满足的代数方程，它是一个，它是一个线性方程组线性方程组，系数矩阵系数矩阵是是ATA，常数项常数项是是ATB. 这种这种线性方程组总是有解