内积空间精选课件

1、第二章 内积空间一、实内积空间的定义1、实内积空间的概念定义1 设 ,如果对 ，存在实数（记为 ）与之对应，且满足下列条件 ，当且仅当 时等号成立。则称实数 为向量 的内积，定义了内积的实线性空间称为实内积空间，简称为内积空间。例1 常见几个线性空间上内积的定义：欧氏空间（有限维实内积空间） ： 上连续函数的全体构成的空间 ： 注：向量的长度 或 正交向量 ： 实数域上所有n次多项式构成的线性空间 ： 实数域上所有n阶方阵构成的线性空间 ： 性质1 （内积的性质） 定理1 （Cauchy-Schwarz不等式） 设 是内积空间， 是 中任意两个向量，则有：当且仅当 线性相关时等号成立。 上Ca

2、uchy-Schwarz不等式的分量形式： 上Cauchy-Schwarz不等式的积分形式： 例2 设 是 中的一组向量，证明这组向量线性无关的充要条件是下列行列式（Gram）证明：设2、正交基与子空间的正交关系定义1 （正交组）内积空间中两两正交的一组非零向量，称之为正交组。注： 任何一个正交组都是线性无关的。定义2 （正交基）在n维欧氏空间中，由正交组构成的基，称之为正交基。如果正交基中每个基向量的长度均为1，则称该组正交基为标准（或规范）正交基，通常记为定理1 （正交基的构造） 任一n维欧氏空间 都存在正交基。证明（略）。 证明过程给出了正交基的一种构造方法：著名的Schmidt正交化方

3、法（线性代数学过）。定义3（正交矩阵）设 ，如果 ，则称 为正交矩阵。性质1 不同标准正交基之间的过渡矩阵为正交矩阵。设n维欧氏空间的两组标准正交基为即注：正交矩阵的不同列对应元素乘积的和为零；类似地可以证明正交矩阵的不同行对应元素乘积的和为零。正交矩阵性质（略）定义4（正交子空间）设 是内积空间 的两个子空间，如果对 ，均有 ，则称 与 是正交的子空间，并记为 。性质2 设内积空间 的两个子空间 与 是正交的，则 是直和。两种方法说明：交集为零空间； 零元素表示唯一。定义5（正交补空间）设 是内积空间 的两个子空间，且满足 ，则称 是 的正交补空间，简称正交补，记为 。性质3 n维欧氏空间

4、的任一子空间 都有唯一的正交补。证明:如果 ，则 是 唯一的正交补。如果 ，在 中选取一组正交基，并将其扩充为 的一组正交基则 就是 的正交补。唯一性：证明:如果 ，则 是 唯一的正交补。同理例3 已知 中： ，其中求 。利用Schmidt正交化方法将其化为正交基：将 扩充为 的一组基：解：例4 设 ，称 的子空间为矩阵 的值域，求 。注：一般来说，称 为矩阵 的零空间。3、内积空间的同构定义1 （内积空间的同构） 设 是两个内积空间，如果 和 之间存在一个一一对应关系 ，使得对任意的 满足 则称 和 是同构的。注：首先作为线性空间是同构的，在此同构之下保持内积不变。定理1 所有n维欧氏空间都

5、同构。设 是n维欧氏空间， 是其一组标准正交基，则有定义容易验证该映射为同构映射，且保持内积不变，从而 与 同构。 设 是另一n维欧氏空间， 是其一组标准正交基，则有定义从而 与 同构。 4、正交变换定义1 （正交变换） 设 是内积空间 的线性变换，如果 对任意的 ，满足则称线性变换 为 的一个正交变换。定理1 （正交变换的等价定义） 设 是n维欧氏空间 的一个线性变换，则下列命题等价： 是正交变换。 保持向量长度不变，即对 ，均有 。如果 是 的一组标准正交基，则 也是 的一组标准正交基。 在 中任一标准正交基下的矩阵是正交矩阵。证明思路： 是正交变换取 是正交变换由2中性质1：不同标准正交

6、基之间的过渡矩阵为正交矩阵，因此 为正交矩阵。例5 几个正交变换的例子： 的一个线性变换 ，对则 是正交变换。设 是内积空间 的一个线性变换，则 是正交变换 。即：保持距离不变的线性变换是正交变换。设 是内积空间 的一个变换，证明：如果 保持向量的内积不变，即对 ，则 一定是线性变换，故是正交变换。5、点到子空间的距离与最小二乘法定义1 （距离） 设 是欧氏空间， ，称 为 与 的距离，记为 。性质1 （距离的性质） ，当且仅当 时等号成立。定义2 （点到子空间的距离） 设 是欧氏空间 的一个子空间， ，称 为 到 的距离。问题: 达到最小距离的 具有什么性质？设如果定义3 最小二乘法问题提法

7、1 （矛盾方程组求解） 设给定不相容（或矛盾）线性代数方程组其中寻求近似解 ，满足故称之为最小二乘解，相应方法称为最小二乘法。提法2 （数据拟合问题） 设给定一组数据 ，寻求一个近似函数 （经验函数）来拟合该组数据，使得提法1的求法记问题 相当于：对于给定的向量 ，寻求 使得 之间的距离达到最小。记法（正规）方程组解：例6：求下列方程组的最小二乘解一、复内积空间的定义6、复内积空间（酉空间）定义1 设 ,如果对 ，存在复数（记为 ）与之对应，且满足下列条件 ，当且仅当 时等号成立。则称复数 为向量 的内积，定义了内积的复线性空间称为复内积空间，或称为酉空间。例7 常见几个线性空间上复内积的定义

8、：n维酉空间（有限维复内积空间） ： 实数域上所有n次多项式构成的线性空间 ： 实数域上所有n阶方阵构成的线性空间 ： 性质1 （复内积的性质） 定理1 （Cauchy-Schwarz不等式） 设 是内积空间， 是 中任意两个向量，则有：当且仅当 线性相关时等号成立。 上Cauchy-Schwarz不等式的分量形式： 关于复向量的长度、正交向量、正交基、标准正交基的概念完全类似实内积空间中的定义，这儿不再一一概述。定义2 （酉变换） 设 是酉空间 的线性变换，如果 对任意的 ，满足则称线性变换 为 的酉变换。二、酉变换定义3（酉矩阵）设 ，如果 ，则称 为酉矩阵。定理2 （酉变换的等价定义）

9、设 是n维酉空间 的一个线性变换，则下列命题等价： 是酉变换。 保持向量长度不变，即对 ，均有 。如果 是 的一组标准正交基，则 也是 的一组标准正交基。 在 中任一标准正交基下的矩阵是酉矩阵。定理3 所有n维酉空间都是同构的。7、正规矩阵定义1（正规矩阵）设 ，如果 ，则称 为正规矩阵。常见的正规矩阵：实对称矩阵： 实反对称矩阵：厄米特矩阵： 反厄米特矩阵：正交矩阵： 酉矩阵：不属于前述类型的正规矩阵：引理 （酉矩阵的构造）设 是酉空间 的一个单位向量，则存在一个以 为第一个列向量的酉矩阵 。证明：取 ，且满足上述关于变量 的方程组的解空间为n-1维，不妨假设其线性无关组为 ，将其正交单位化

10、后得到 ，则 构成的一组标准正交基，从而证明：充分性直接利用定义验证易得。定理1 （正规矩阵的判定条件）设 为正规矩阵的充要条件是：存在酉矩阵 ，使得 酉相似于对角矩阵，即必要性：数学归纳法证明（对阶数n归纳）当n=1时，结论显然成立。假设结论对n-1阶矩阵成立，下证对n阶矩阵也成立。设 是 的一个特征值， 是相应单位特征向量，由引理知，存在以 为列向量的酉矩阵其中 是n-1阶矩阵下面易证 矩阵 和 均为正规矩阵。因为 是n-1阶正规矩阵，由归纳假设结论成立。由归纳假设，存在n-1阶酉矩阵 ，满足记 ， 仍为酉矩阵， 是矩阵 的n个特征值。推论1 设 是n阶正规矩阵，特征值为 是厄米特矩阵 的

11、特征值全为实数。 是反厄米特矩阵 的特征值为0或纯虚数。 是酉矩阵 的每个特征值 的模均为1。推论2 厄米特（Hermite）矩阵 任意两个不同特征值对应的特征向量是正交的。8、厄米特（Hermite）二次型定义1（厄米特二次型）设 ，为厄米特矩阵，则二次型称之为厄米特二次型， 的秩为二次型的秩。例如：注意：厄米特二次型与实二次型的区别。二次型矩阵厄米特二次型中不含交叉项时，称为二次型的标准型，即此时二次型矩阵为对角形矩阵。定理1 厄米特二次型 经满秩线性变换 后仍为厄米特二次型，且秩不变。定义2（厄米特相合）设厄米特二次型 经满秩线性变换 化为 ，则称矩阵 与 是厄米特相合。或者说，存在可逆

12、矩阵 ，使得 ，则称 与 厄米特相合。注意：实二次型时称为合同关系。定理2 每个厄米特二次型 都可用某个酉变换 ，使其化为标准型：其中 是 的特征值。例8 化下列厄米特二次型为标准型：解：该厄米特二次型的矩阵为下面先计算矩阵的特征值。解：该厄米特二次型的矩阵为下面特征值相应的特征向量。解方程组解方程组解方程组将特征向量 利用Schmite方法正交化处理（本题3个向量已经正交：不同特征值对应的特征向量一定正交），然后再进行单位化。将上述三个向量按照列排起来的矩阵就是酉矩阵 。所求标准型为：定义3（正（负）定二次型） 如果对 ，厄米特二次型 恒为正（负）数，则称该二次型是正（负）定的，此时厄米特矩阵 称为正（负）定的；若 恒不为负（正）数，即 ，则称 为半正（负）定的，相应的矩阵 称为半正（负）定的。定理3 厄米特二次型 为正定（或半正定）的充要条件是 的特征值全为正数（或全为非负数）。证明：充分性由定理2易证，必要性