线性空间和欧式空间

1、第六章 线性空间和欧式空间§ 1 线性空间及其同构线性空间的定义设 V 是一个非空集合， K 是一个数域，在集合 V 的元素之间定义了一种代数运算，叫 做加法；这就是说，给出了一个法则，对于V 中任意两个元素和 ，在 V 中都有唯一的一个元素 与他们对应，成为 与 的和，记为 。在数域 K 与集合 V 的元素之间还定义了一种运算， 叫做数量乘法， 即对于数域 K中任一数 k与 V中任一元 素 ，在 V 中都有唯一的一个元素与他们对应， 称为 k 与 的数量乘积， 记为k ，如果加法与数量乘法满足下述规则，那么V 称为数域 K 上的线性空间。加法满足下面四条规则：1) ；交换律2)()

2、 () ；结合律3) 在 V 中有一个元素 0，对于 V中任一元素 都有 0 (具有这个性质的元素0 称为 V 的零元素)； 存在零元4) 对于 V中每一个元素 ，都有 V中的元素，使得0( 称为 的负元素) .存在负元数量乘法满足下面两条规则：5) 1； 存在 1 元6) k(l ) (kl) . 数的结合律数量乘法与加法满足下面两条规则：7) (k l) k l ； 数的分配律8) k() k k . 元的分配律在以上规则中， k,l 表示数域中的任意数； , , 等表示集合 V 中任意元素。例1 元素属于数域 K 的 m n矩阵，按矩阵的加法和矩阵的与数的数量乘法，构成数域 K上的一个线

3、性空间，记为 Mm,n(K) 。例2 全体实函数 (连续实函数) ，按函数的加法和数与函数的数量乘法， 构成一个实 数域上的线性空间。例3 n维向量空间 Kn 是线性空间。例4 向量空间的线性映射的集合 HomK (K m, K n )是线性空间。二简单性质1零元素是唯一的。2负元素唯一。3 00，k0 0，( 1) 。4若 k0 ，则 k 0或者0。三 . 同构映射定义：设V ,V 是数域 K上的线性空间 . A HomK(V,V )是一个线性映射 .如果A是一一 映射，则称 A是线性空间的同构映射，简称同构。线性空间V 与V' 称为同构的线性空间。定理 数域 P 上两个有限维线性空

4、间同构的充分必要条件是他们有相同的维数。 同构映射的逆映射以及两个同构映射的乘积还是同构映射。同构 线性空间分类 维数§ 2 线性子空间的和与直和子空间的和：设 W1,W2是线性空间 V 的子空间，则集合 W 1 2| 1 W1或 2 W2 也是一个线性子空间，称为 W1 ,W2的和，记为 W1 W2 .两个线性子空间的和 W1 W2 是包含这两个线性子空间的最小子空间.满足交换律、结合律设 1,L , s与 1,L , t是 V的两个向量组 . 则L( 1,L , s) L( 1,L , t) L( 1,L , s, 1,L , t )线性子空间中的线性无关向量组都能被扩充成这个子

5、空间的一个基。定理：(维数公式 )如果 W1, W2是线性空间 V 的两个子空间，那么dim(W1 ) + dim( W2 ) =dim(W1 W2)+ dim(W1 W2)由此可知， 和的维数要比维数的和来得小。 推广到有限个线性子空间的和空间维数推论：如果 n 维线性空间 V 中两个子空间 V1,V2的维数之和大于 n，那么 V1,V2必含有非零的公共向量。直和：设 W1,W2是线性空间 V 的子空间，如果 W1 W2 中的每个向量都能被 唯一地表示成 1 2 1 W1, 2 W2. 则称W1 W2为直和，记为 W1 W2。设W1,W2 是线性空间 V 的子空间，则下列结论互相等价：(1)

6、 W1 W2是直和；(2)W1 W2 0;(3) dim( W1 W2) dimW1 dim W2 .设W 是线性空间 V 的一个子空间，那么一定存在 V 的一个线性子空间 U ，使得 VWU满足上述条件的线性子空间 U 称为W 的补子空间 . 推广到有限多个线性子空间也可以定义它们的直和设 W1，W2，L ，Wm是V的线性子空间，则下列结论相互等价：1)W1Wm是直和；2)对 i 1,m有 WiWj0;1j m ij3)dim(W1Wm) dimW1dim Wm.§ 3 欧式空间定义 设V 是实数域 R上的有限维线性空间 , 在V 上定义了一个二元实函数， 称为内积 , 记作 (

7、, ) , 满足以下四条公理 :1) 对称性 ( , ) ( , );2) 关于标量乘法线性性质 (k , ) k( , );3) 关于向量加法的线性性质 (, ) ( , ) ( , ) ;4) 正定性 ( , ) 0, 当且仅当0时, ( , ) 0这里 , , 是V 任意的向量 , k是任意实数 , 这样的线性空间 V 称为欧几里得空间 .例 1 在线性空间 Rn中, 对于向量(a1,a2,an) ,(b1,b2, ,bn ),定义内积( , ) a1b1 a2b2anbn .(1)则内积 (1) 适合定义中的条件，这样 Rn 就成为一个欧几里得空间 .n 3 时， (1) 式就是几何空

8、间中的向量的内积在直角坐标系中的坐标表达式.例 2 在 Rn里, 对于向量(a1,a2, ,an) ,(b1,b2, ,bn ),定义内积( , ) a1b1 2a2b2nanbn.则内积 (1) 适合定义中的条件，这样 Rn 就也成为一个欧几里得空间 . 对同一个线性空间可以引入不同的内积 , 使得它作成欧几里得空间 .例 3 在闭区间 a,b 上的所有实连续函数所成的空间 C(a,b)中,对于函数 f (x),g(x)定 义内积b(f(x),g(x) a f (x)g(x)dx. (2)a对于内积 (2) ， C (a, b)构成一个欧几里得空间 .同样地，线性空间 R x, R x n对

9、于内积 (2) 也构成欧几里得空间 .例 4 令H 是一切平方和收敛的实数列(x1,x2,xn ),n2 xn 1所成的集合 , 则 H 是一个欧几里得空间 ,通常称为希尔伯特 (Hilbert) 空间 .定义 非负实数 ( , ) 称为向量 的长度，记为 .显然，向量的长度一般是正数， 只有零向量的长度才是零， 这样定义的长度符合熟知的性质： k |k| (3)这里 k R, V .长度为 1 的向量叫做 单位向量 . 如果 ,0由(3) 式，向量1就是一个单位向量 . 用向量 的长度去除向量 ，通常称为把 单位化 .（Cauchy-Buniakowski 不等式 ） 对任意的向量 , ,

10、有|（ , ）| | | |,而且等号成立当且仅当 , , 线性相关 .（ 保证向量夹角定义的合理性 ）定义 非零向量 , 的夹角 , 规定为arccos( , )根据柯西 - 布涅柯夫斯基不等式，有三角形不等式定义 如果向量 , 的内积为零，即（ , ） 0 那么 , 称为正交或互相垂直，记为 .两个非零向量正交的充要条件是它们的夹角为. 只有零向量才与自己正交2勾股定理 ：当 , 正交时，222推广 ：如果向量两12m 两两正交，那么1222m1(aij)nnaij( i, j )称为基 1, 2, , n的度量矩阵 . 度量矩阵完全确定了内积( , ) XTAY标准欧式空间 （其内积关于

11、自然基的度量矩阵是 n 阶单位阵 ） 定义 欧氏空间 V 的一组非零的向量 , 如果它们两两正交，就称为一个 正交向量组 . 由单个非零向量所成的向量组也是正交向量组 .在 n 维欧氏空间中，两两正交的非零向量不能超过n 个 .正交向量组一定是线性无关的。若正交向量组中的向量都是单位向量，则称为规范正交组。定义 在 n 维欧氏空间中，由 n 个向量组成的正交向量组称为正交基；由单位向量组成 的正交基称为 规范正交基组 . 对一组正交基进行单位化就得到一组规范正交基 .欧式空间的线性子空间必存在规范正交基。 在规范正交基下，向量的内积可以通过坐标简单地表示出来，( , ) x1y1 x2y2 L

12、 xnyn XTY. 这个表达式正是几何中向量的内积在直角坐标系中坐标表达式的推广 . 把一组线性无关的向量变成一单位正交向量组的方法在一些书和文献中称为 格拉姆 - 施密特 (Schimidt )正交化方法 . (P314)定义 欧氏空间 V 与V 称为 同构的 , 如果存在线性空间的同构 A HomR(V,V ) ，保持内 积，即 (A( ),A( ) ( , ), 对任意的 , V 成立，这样的映射 A称为V 到V 的同构 映射.同构的欧氏空间必有相同的维数 . 每个 n维的欧氏空间都与 Rn同构 .同构作为欧氏空间之间的关系具有反身性、对称性与传递性 .由每个 n维欧氏空间都与 Rn同

13、构知，任意两个 n 维欧氏空间都同构 . 定理 两个有限维欧氏空间同构 它们的维数相等 .这个定理说明，从抽象的观点看，欧氏空间的结构完全被它们的维数决定 .§ 4 欧式空间中的正交补空间与正交投影S是欧式空间 V 的一个子集，如果 V中向量 与S中每个向量都正交，则称与 S正交，记做S.定义 设S是欧几里得空间 V的一个非空子集 ,V中与 S正交的所有向量组成的集合 称为 S的正交补 ,记作 S ,即S V |( , ) 0对所有的S.命题 设 S是欧几里空间 V的任意一个非空子集，则 S 是 V的一个线性子空间定理 设W 是欧几里得空间 V的一个线性子空间，则 V W W .正交

14、投影的定义，正交投影的求法 (P321-323)V W W ,则其中每个向量都能唯一的表示成1 2, 1 W,2W在W 上的正交投影的充要条件是W.令PW:VW V 则 PW为V 在W上的正交投影.在 W 中取一个规范正交基1,L , m ，则 在W 上的正交投影为PW(m( , i) i . i1正交投影的求法 :1)用施密特正交化方法求出W 的规范正交基，再用mPW( ) ( , i ) i12) 设 1 i W ，则 2W , ( 2, i ) 0解齐次线性方程组3) 把(2) 写成矩阵形式，解决 ATAX AY， PW( ) AX定理 设W是欧几里得空间 V的子空间，对于V, 1 W是

15、 在W上的正交投影的充分必要条件为| 1 | |, 对所有的W.定义 设W是欧几里得空间 V的一个子空间， 是V中的向量 .如果W中存在一个向量 使得对所有的W有 | |,那么称 为 在 W上的最佳逼近元 .V 中任意向量 在子空间 W 上的最佳逼近元存在且唯一，就是在 W 上的正交投 影 PW ( ) .最小二乘法(偏差总和最小 偏差平方和最小) ( P327-328) 最小二乘法问题 ：线性方程组a11x1a12 x2a1sxsb10,a21x1a22 x2a2sxsb20,an1x1an2x2ansxsbn0可能无解 .即任何一组数 x1,x2, ,xs 都可能使(ai1x1ai2x2i

16、1ais xsbi )(1),xs0 称为方程组的最小二不等于零 .我们设法找 x10,x20, ,xs0 使（ 1）最小，这样的 x10 , x20 ,乘解 . 这种问题就叫最小二乘法问题 .下面利用欧氏空间的概念来表达最小二乘法，并给出最小二乘解所满足的代数条件a11a12a1sa21a22a2s,Bb1b2an1an2ansbnx1x2,Ya1j xj j1 sa2 j xj j1AX.(2)xssanjxjj1用距离的概念， （ 1）就是最小二乘法就是找 x10 , x20 ,xs0 使 Y 与 B 的距离最短. 但从2），知道向量 Y 就是a11a12把 A 的各列向量分别记成x1

17、a21an112x2 a22an2xsa2sans由它们生成的子空间为 L （1, 2, , s). Y就1, 2, , s）中的向量 . 于是最小二乘法问题可叙述成：找 X 使（1）最小，就是在 L （ 1, 2, , s） 中找一向量 Y，使得 B到它的距离比到 子空间 L （ 1, 2, , s） 中其它向量的距离都短 .应用前面所讲的结论，设x1 1 x2 2xs s是所求的向量，则C B Y B AX必须垂直于子空间 L （ 1, 2, , s） .为此只须而且必须（C, 1） （C, 2）（C, s ） 0回忆矩阵乘法规则，上述一串等式可以写成矩阵相乘的式子，即1TC 0, 2TC

18、 0 ,L , sTC 0.而 1T, 2T ,L , sT 按行正好排成矩阵 AT ，上述一串等式合起来就是AT（B AX） 0 或AT AX AT B这就是最小二乘解所满足的代数方程，它是一个线性方程组，系数矩阵是AT A ，常数项是ATB. 这种线性方程组总是有解的 .§ 5 正交变换与正交矩阵定义 欧氏空间 V 的线性变换 A 叫做一个正交变换 , 如果它保持向量的内积不变，即对 任意的，都有 , V , 都有（A ,A ）= （ , ） .正交变换可以从几个不同方面公平加以刻画 . 正交群 O（n,R）设 A 是 n 维欧氏空间的一个正交变换，则有以下结论：（1） 如果 1, 2, , n是规范正交基，那么 A 1, A 2 , A n也是规范正交基；（2）A保持向量的长度不变，即对于V , （A ，A ）=（ ， ）;（3）A 在任一组规范正交基下的矩阵是正交矩