工程矩阵理论

双语国际教育版

系统分析的数学工具

——工程矩阵理论

（适用于数学专业和其它理工科研究生）

倪郁东编著

合肥工业大学数学学院

目录

第一章线性空间与线性变换1

§1.1线性空间1

§1.2线性变换及其矩阵3

§1.3内积空间8

§1.4正交变换及其几何与代数特征

§1.5应用于小波变换的框架理论15

第二章矩阵的标准形理论

§2.1线性变换的特征值和特征向量29

§2.2矩阵的相似对角化32

§2.3特征矩阵的标准形34

§2.4矩阵的成7〃标准形34

§2.5矩阵的最小多项式

第三章矩阵分解29

§3.1Gs/防消去法与矩阵三角分解29

§3.2矩阵的QR分解32

§3.3矩阵的满秩分解34

§34矩阵的奇异值分解34

§3,5矩阵分解的应用

第四章矩阵范数理论及其应用16

§4.1范数与赋范线性空间

§4.2向量范数及其性质17

§4.3矩阵的范数18

§4.4范数的应用19

第五章矩阵分析及其应用20

§5.1矩阵序列20

§5.2矩阵级数21

§5.3矩阵函数22

§5.4矩阵的微分和积分25

§5.5矩阵函数的一些应用26

§5.6梯度分析和最优化27

第六章特征值估计及极性38

§61特征值的估计38

§6.2广义特征值问题40

§6.3对称矩阵特征值的极性41

§6.4广义特征值分析的应用42

第七章广义逆矩阵43

§7.1投影矩阵43

§7.2广义逆矩阵46

§7.3总体最小二乘方法49

第八章Matlab中的矩阵运算简介50

§8.1根本矩阵运算50

§82矩阵分解52

§8.3广义逆矩阵和解线性系统54

参考文献57

编著者说明

1、体例格式为：知识要点，章节内容，各章习题。

2、章节内容包括：定义，结论，例题，定理，推论，注记。其中，定理和例题均有证明或解答，而结

论和推论那么不加详述。

刖a

矩阵的概念和理论已被广泛地应用于现代科技的各个领域，有力地推动

着现代科学技术的开展。矩阵的思想方法，被广阔的科技工作者所掌握和应用

（矩阵切换器，线性控制理论），尤其是计算机科学家和控制科学家爱不释手的

重要工具。

矩阵的概念脱胎于行列式的形式，是作为表达线性方程组的简单记法而产

生的，但其开展的历史却耐人寻味。为了求解线性方程组，1693年莱布尼茨

首次使用行列式概念，1750年克拉姆法那么创立，1820年高斯（G"ss）

提出消元法（这是一种根本而又重要的方法，广泛用于线性方程组的求解，

更重要的是由此凝炼出了矩阵初等变换的根本方法），但矩阵的概念一直没

有形成。虽然，1801年高斯已把一个线性变换的全部系数视作一个整体，而

爱森斯坦因（氏也加加）在1844年就讨论了线性变换及其乘积，并强调了乘法次

序的重要性。直到1851年，西尔维斯特（SWws/s）首先提出使用二维数表的符

号表示线性方程组，才引入了矩阵的概念。将矩阵作为一个独立的数学对象进

行的研究，开始于1855年以及其后凯莱（。今的，）发表的一系列研究矩阵理论的

文章。在这些文献中，他引进了关于矩阵的一些直至现代仍通用的定义，如

矩阵相等、零矩阵、单位矩阵、矩阵的和、一个数与一个矩阵的数量积、矩

阵的乘积（并且注意到：矩阵的乘法是可结合的，但一般不可交换，且〃?x〃矩

阵只能用〃x,〃矩阵去右乘）、矩阵的逆、转置矩阵、对称矩阵等，并借助于行

列式定义了方阵的特征方程和特征根。1858年凯莱发表了《关于矩阵理论的

研究报告》，证明了一个重要结果：任何方阵都满足它的特征方程。这个结果

现被称为凯莱―哈密顿定理。由于正是由于这些奠基性的工作，凯莱被认为

是矩阵理论的创始人。

当然，在矩阵理论之中，也积淀了其它众多科学家的卓越奉献。埃米特

证明了别的数学家发现的一些矩阵类的特征根的特殊性质，如现

在称为埃米特矩阵的特征根性质等。后来，克莱伯施（C/e加M）、布克海姆

（版动也油）等证明了对称矩阵的特征根性质。泰伯（Taber）引入矩阵的迹的概

念并给出了一些有关的结论。

在矩阵论的开展史上，弗罗伯纽斯（》仍的汝,）的奉献是不可磨灭的。

他讨论了最小多项式问题，引进了矩阵的秩、不变因子和初等因子、正交

矩阵、矩阵的相似变换、合同矩阵等概念，以符合逻辑的形式整理了不变

因子和初等因子的理论，并讨论了正交矩阵与合司矩阵的一些重要性质。

1870年，约当（心血〃）研究了矩阵化为标准形的问题，建立了著名的约当

标准型理论。1892年，梅茨勒（A/e口夕）引进了矩阵的超越函数概念并将其

写成矩阵的邪级数的形式。傅立叶、西尔和庞加莱的著作中还讨论了无限

阶矩阵问题，这主要是适用方程开展的需要而开始的。

到19世纪末，矩阵理论已日臻完善，但其应用并不十分广泛，这主

要归因于大规模线性方程组求解问题的计算复杂度太大，难以手工进行下

去。进入20世纪之后，当人们渐渐以为有限维度的矩阵理论和方法已经终结

的时候，计算机技术出现了，这使得矩阵理论获得新生。

矩阵本身所具有的性质依赖于元素的性质即相互关系，矩阵由最初作

为一种工具经过一个多世纪的开展，现在已成为独立的一门数学分支——

矩阵理论。而矩阵理论又可分为矩阵方程论、矩阵分解论和广义逆矩阵论

等矩阵的现代理论。矩阵及其理论的应用是多方面的，不仅在数学领域里，

而且在力学、物理、科技等方面都十分广泛的应用。这些应用主要集中于线性

问题表示、计算与分析，以及非线性问题的线性分析与处理。

矩阵理论开展示意图

1820年高斯（G〃〃ss）提出消元法

1851年西尔维斯特（Sylverster）创立矩阵的概念

-1870年约当（4”向〃）创立标准形理论一

\I7M夕11-1?TVI\I，＜〃，＜■"，〃”,、]/I]^T~仑

1892年，梅茨勒（Maz/o）创立矩阵函数理论

第一章线性空间与线性变换

知识要点：

1、线性空间的概念（数域、线性运算封闭性、线性运算公理），结构（线性无关、基、维数，向量在

基下的线性表示和坐标），过渡矩心和向量的坐标变换（可按形式矩阵乘法直接表示）。

2,线性空间同构的概念（可自学）。

3、线性子空间的概念（定义与充要条件，生成子空间，交空间，和空间，维数定理，直和与直和分解

定理）。

4,线性变换及其矩阵表示（定义与运算，象空间、核空间和不变子空间，线性变换在基下的表示:变换

与矩阵一一对应、不同基下矩阵相似，线性变换下向量的坐标：变换矩阵左乘向量坐标）。

5,欧氏空间与酉空间（内积、范数与距离，正交基、正交阵与酉阵，正交补与正交分解）。

6、正交变换及其特征（正交变换及其线性性，正交变换的几何特征，正交变换的矩阵特征）。

7、应用于小波变换的框架理论（对偶框架，紧框架，Riesz基）。

§1.1线性空间

一、线性空间的概念

定义1：设非空集合V相对于数域尸具有封闭的加法和数乘运算，并且具有与任何元素之和仍为该元卖

的零元素，同时每个元素均具有与其之和为零元素的负元素。假设V中运算满足加法结合律与交换律、

数乘结合律与分配律、乘1不变性，那么称V为数域P上的线性空间。

注1:数域是指对加减乘除四那么运算封闭的数集，如有理数集、实数集、复数集等。

注2：易证零元素和负元素均是唯一的。

例1：数域P上的〃维（列）向量空间P”。

按〃维向量的线性运算，P”构成数域2上的线性空间。

例2：P"中的子集S={x|O=0}。

按产中的线性运算，非空子集S是封闭的，从而构成数域。上的线性空间。

例3：数域P上的"IX〃阶矩阵空间P"*"。

按mx〃阶矩阵的线性运算，构成数域P上的线性空间。

例4：数域P上的多项式空间

按多项式的线性运算，Pfx]构成数域P上的线性空间。

例5：区间仅，物上的实值连续函数空间C[a,加。

按函数的线性运算，q”,勿构成数域尸上的线性空间。

例6：P'

例7：

二.线性空间的结构

定义2：设囚,见，…,名为数域尸上的线性空间V中的一组向量，假设有P中不全为零的一组数

k\，h，…,k,,使得+…+仁4=。，那么称《,巴，,，氏线性相关，否那么称为线性无关。

定义3：设线性空间V中有一组向量因,%，…，％，满足：

(1)%,。2,…,生线性无关;

(2)丫中任一向量均可由4,%，…,巴线性表示。

那么称四,巴,•，区为V的一组基，数「称为V的维数，记为小〃iV.

结论1：设四,见，…，%为数域?二线性空间V的一组基，那么对于任何向量4eV,存在唯一一组数

4,&2,£P,使得6=仁4+22a2+…从而

V={k}ai+k2a2++人外|匕,内,人£2}。

将P记为(6,%•称为夕在基冈,％，…，巴下的坐标。

注：线性空间的基可以理解为空间中的一种参照系，能将所有元素线性表示出来。

例6：(1,0,.・•・O)。(0,1,・•,0)7,(0.0,•••.D7'为产中的一组基，dimP''=nx

'10...0>1o]’00...0、

00…0000000

，…,为pnxn中的一组基，

0...()/00；、()0•••1；

<0/wxn<0Z/MXM

diinP,,,x,1=mn；

1,兀X?,V"为P[.t]p中的一组基，dimP[x]n=n；

…中任意有限个向量均为CS,句中嫉性无关的向量组，因而C[a,以不是有限维空间V

注：有限维空间的基不是唯一的，但其维数是唯一确定的。

三、过渡矩阵和向量的坐标变换

定义4：设多,%，…，&和4，62,…，仇为线性空间V中的两组基，愎设

那么矩阵P=(pQ”称为从%4,…,见到片，人，…，片的过渡矩阵。

将上述基变换表达式简记为(川，尺,•，月)二(%,a2,,%)P,称之为基变换公式。

定理1：线性空间基之间的过渡矩阵是可逆的。

证明：设从基冈,火，…,4到基四,42,…,凡的过渡矩阵为尸，那么

(片‘62‘，’片)=(%‘。2,…'%)产。

k、

k

对于任何列向量依,内,•，尤y,p,2=o时，

（6次,…4）?\=。。

/Jb

由比可得卜=0,从而过渡矩阵P是可逆的。

推论：设户为%,%…多到凡民，…血的过渡矩阵，那么练外…血到四,%，…，?，的过渡矩阵

为p-二

证明：设々,氏…久到%％,,外,的过渡矩阵为。，那么由

（01，02'…,Bn）=…,a）P，a）=1B1,02,…,Bn）Q

可得（可血，…4）=（q,%…，％）P=（4％…，片）QP，从而QP=E,即0=尸。这说明

4,四，…，月到即见，…，％的过渡矩阵为PL

Ai

4出

定理2：设向量a在基冈,%，…,%和月，儿，…，耳下的坐标分别为和,P为4,%,,••,区

、4J

到综&…血的过渡矩阵,

证明：由.a,），4）二（%/，0.）P得,

固

(，q,%,%)、A.=，(%%，

注：上述公式称为向量在不同基下的坐标变换公式。

例9：验证e=1,%=工。3=d和4=1,尸2=3一1，43=（x-l）.均为PLQ中的基，并求前一组•基到

后一组基的过渡矩阵，以及〃=l—2x—3V在后一组基下的坐标。

解：考察+23。3=0，即4+攵2工+&/三。对任何数上成立，那么由多项式理论可知

"卜=卜3=0.因而4,见，。3是线性无关的，并构成巴总）的一组基。

口-11]

由必=1=四,四=x-l=—四+%，笈=。一1）~二四一加2+%及〃=01-2可逆知，

2。L

仇艮、区也构成尸次h的一组基，并且囚,%，％到才,人，&的过渡矩阵为?。

由〃二1一2工-3/=-4-8（工一1）一3（；1-1）2=—44-8四一34可得，〃在回,/??，夕3下的坐标为

3

-80

[3,

II1、<111],1、

注：也可先求出P7=012,再计算出012-2=-8

10

<001

。b?

例10：R,的两组基分别为

%=(1,1,2,1/,%=(0,2,1,2)7,4=(0,0,3,1)\%=(0,0,0,4尸,

rrTr

A=(l,0,0,0)^2=(l,2,0,0)，A=(0,0,l,l),A=(0,0,-l,l),

试求即见，%，a4到B\、鱼、。3、A的过渡矩阵。

解：设（片,外凤,女）=（q,%,%%）P，那么%%至U%、氏四，凡的过渡矩阵

ooOY7I100]1100、

1

12000200J~200

-11512

213000I’65

-111

J214乂001246'6/

四,线性子空间的概念

定义5：设W是线性空间V的非空子集,假设卬关于V中的加法和数乘也构成线性空间，那么称W是

V的一个线性子空间。

子空间判别定理：线性空间V的非空子集W为V的子空间的充分必要条件是W对V中的线性运算封

闭。

结论2：设匕、匕为V的子空间，那么匕与匕的交耳。匕也是V的子空间，称为交空间。

例11：设耳=34/=。},匕=34管=0},那么乂1%=343=0,4"=0}。

结论3：设匕、匕为V的子空间，那么匕与匕的和丫+匕={«+%|%£匕，％£匕}也是旷的子空

间，称为和空间。

rr

例12：设%=（2,—1,0,1），%=（1，T，3,7）7,4=（l,2,l,0）,/72=（-lJJ,l）,

Vt=Span{a^a7},V,=Span{/3^p-,},求匕。匕、吊+匕及它们的一组基。

jt

解：任取aw/n%，那么a=k0[+k2a2=+欧2,即（如%，一凡-夕2），=°。

4

d

解之得，=J（-3,L-L4）、从而a=。（-5,2,3,4尸,k2eRo

由比可得，匕0%=★（-5,2,3,4）半€4，（一5,2,3,41为其一组基。

任取aeV）+匕，那么a=攵四+&%+/血42，因此乂+匕=5%〃{1,4,凡62}。日

??（。1，4,笈）=/?（%，。2，片，42）=3可知，6，火,夕|为匕+匕的一组基。

维数定理：dim（V}）+dim（V2）=dun（V}+V,）+dim（V}PI%）。

证明：设小〃7（匕）=，几d淅（匕）=几4油（上（％）=/,取v,n%的一组基冈,巴，，，囚，并将其分别

扩展为匕和匕的基：%%,••,,即%+,••,%„,a"…,0i

考察3+…+k/m+k*i0i+…+km叩RE=0,

由4/++《〃％,=—（勺廿盟++匕讨,10ft_1）可知,右端属于匕n%可由%,％，…,名线性表示，

即有_（心血++L,iZLj=4a++4«，整理后得到

4。1+…+4。/+（”+园++%+吁瓜_1=0。

由即…，即用…,力一的线性无关性可得，4=...=4=&,向=一=3+,1=0，从而

4%+•••+《/=。。

再由四，…,名”的线性无关性可得，k尸…=l“=*=•.•=j=U,从而向量埋

名,…,多,线性无关，并构成乂+匕的一组基。由此可得,

dim（V[+V,）=n+m-l,并且dim（Vj+dim（V、）=diin（Vx+V2）+dim（Vl「匕）。

定义6：设匕、匕为V的子空间，假设K+匕中每个向量a的分斛式「=%十%是唯一的，那么春

K+匕为匕与匕的直和，记为M㊉匕。

直和判别定理：乂+%=匕㊉匕=KrK={0}o疝九(K)+dim(匕)=dim(匕+匕)。

证明：假设匕+匕是直和，假设存在。£匕(1匕,。工0,那么。£片,一。€匕，并且0+(—2)=0,日

零向量分解式的唯一性可得，1=0,这与假设矛盾，因此而乂=匕={0}。

假设“匕={0},假设匕+匕中向量a的分解式不唯一，即存在?血£匕，

a产B\，a2手区、使得a=%+4=%+⑸。由此可得，6-%=四一夕?£片「匕，从而

。「网=仇-d=0,即/=%,%=氏，这与假设矛盾，因此匕+匕是直和。

注1：V；+匕为百和的充要条件为某一向量(包括0)的分解式唯一。〔设分解式。=必+%是唯一的.

那么对于0的分解式0=幺+&，a=a+0=(4+4)+(4+四)，由此可得，4=0,夕2=°，因此

0的分解式唯一)

注2：匕、匕的基合并在一起构成K+匕的充分必要条件是乂+匕为直和。

直和分解定理：设匕为v的子空间，那么存在v的子空间匕，使得V=K㊉匕。

证明：取匕的一组基四,心,…,4，将其扩展为V的一组基%。令

匕=5/%〃{«讨••，?"},那么匕。/={()},因此V为匕和匕的直和。

注1：假设囚,火，…,%为V的一组基，那么V=»?a〃{q}㊉曲〃〃{4}㊉㊉?〃〃{%},但

1

{q}L.Span{a2\\J-■JSpan{a0}远充不满线性空间V0

注2：直和分解的意义还在于符大规模的线性运算分解成较小规模线性运算的线性组合，这将大大加快

线性运算的速度，傅立叶(Fourier)变换的快速计算就是建立在这种思想上的。

§1.2线性变换及其矩阵

一.线性变换及其运算〔定义与运算、构成线性空间)

线性变换是线性运算和运算具有线性性的共性化的概念，其本质是像的线性运算与原像的线性运算

可以互相转换。如〃维向量的线性变换、函数的微分和积分运算均为线性变换。

定义1：设7是数域尸上线性空间V到V(或另一线性空间)中的映射，假设对任何/IGP,

总成立着丁(。+。)=加+77九T(Aa)=A(Ta),那么称T是V上线佳变换。

例1：对于

结论1：线性变换的加、减、乘、数乘和逆运算仍为线性变换，按线性运算构成线性空间L(V)。

注：线性变换的研究与其他许多数学对象一样，常常是从运算性质、特殊区域上的表现、运算表达式等

方面着手的。

二、象空间、核空间和不变子空间

定义2：T(V)={Tx\xeV}tKe")={x|7k=0,xeV}。

定理1：dimT(V)+climKer(T)=dim(V｝。

证明：取K”(T)的一组基因。”•，囚，并将其扩张为V的一组基火，,勾,火+”那么对于任

何V，a=攵乌+…+号《+•••/“％,总有Ta=kMTal+i+••■+knTalt,从而

T(V)=Saw{T*…,Ta“}0

对于4+了%+i+…+47%,=0，由r(4+。川+…+4a“)=。可知，

4.臼+1+・・・+41a“eKer(T),从而可由名,火线性表示，即

4.1。/+1+'''+4%=4％+4,2+・一+〃。/，再由囚，的线性无关性可知，

41==A,=0.从而7囚+”…,r%线性无关。由此可知，//+卜构成7(V)的一组基，因

此dimT(V)=n-l,从而dimT(V}+dimKer(T)=dirn(V)。

定义3：假设7(W)uW,那么称W为丁的不变子空间。

注：不变子空间是线性变换的属性在定义空间上的反映，不变子空间中线性变换的性质独立于其它范围

中的性质，因此寻找适宜的不变子空间是性质分析的重要的内容。由特征向量生成的子空间就是一个不

变子空间，特征向量的方向就是线性变换的信号增益通道。

结论2：7(7),Ker(T)均为7的不变子空间。

三、线性变换在基下的矩阵表示

定义4：设7为线性空间V上的线性变换，假设V的一组基",/，…，2在7下的像为

%+…+?同

■"2=42。+%2”+…+42缘，那么称A=(%)“e/X"为7在弓鸟,…,e”下的矩阵表示，并将上述

%=，/+。2怎++%/“

表达式记为T&l/，…，〃)=(地,702「・・，%)=(与，《2―”，〃)4。

注：人不一定可逆，但A可逆时7＞「丁，・…・Te”也构成一组基c

结论3：L(V)与P”'同构。即L(V)中线性变换与尸心"中矩阵一一对应，并且保持对应的线性变换。

注：这说明除具体形式和符号不同以外，从线性运算的角度看，两者没什么区别。即同一个本质，具有

两个不同的表现形式。

定理2：设四,和片,…，月为线性空间V中过渡矩阵为P的两组基，线性变换丁在这两组

基下的表示分别为A8,那么A=pT4P,即A8相似。

证明：由7(6,=(%,%，…，%)A，T(0\、4,…,0)=电,％…,0)B,

(4月2,…血)=(%%,a〃)P可得，(%%…,4)=(晶尾,…,月)产'，

从而3=/TAP,

注：定理的意义还在于，可将矩阵的相似化理解为线性变换在不同基(或参照系)下的转换。

a,ala,a,

例2：设线性空间V为由基函数内=ecosbt,x2=esinbt,xy=tecosbt,x4=tesinbt生成的实数城

上的线性空间，令

a,a,a,a,

y=ecosb(t-1),y2=esinb(t-1),y3=tecosb(t-1),y4=tesinb(t-1)0

(1)证明：y,%，为，%也为V的一组基；(2)求到%,工2，工，匕的过渡矩阵；(3)求微分

算子。在基玉,工2，工3，七下的矩阵。

aa

解：)'i=e'cosb[t-1)=e'[cosbt-cosb+sinbt-sinbI=x(-cosb+x2-sinb,

au,

y2=e'sinb(t-1)=e[sinbt-cosb-cosbt-sinb]=-xy-sinb+x2•cosb,

a(

乃=te'cosb(t-1)=te"[cosbt-cosb+sinbtsinb]=x3-cosb-x4-sinb,

a,

y4=te^sinb(t-1)=te[sinbt•cosb-cosbt-sinb]=-x3•sinh+x4•cosb。

(cosb-sinb00\

sinbcosb00

由此可得，（y1,%，/，％）=（X,%，£，%）0

00cosb-sinb

<o0sinbcosb/

cosb-sinb00'cosb--sinb00、

sinbcosb00sinbcosb00

⑴由=1工。可知，可逆。因此，

00cosb-sinb00cosb-sinb

00sinbcosb<o0sinbcosb/

）1，）’2，为，以线性无关，从而构成V的一组基。

-1/

(cosb-sinb00、cosbsinb00、

sinbcosb00-sinbcosb00

(2)—为加%，%，%到西，W，%'

00cosb-sinb00cosbsinb

<00sinbcosb)00-sinbcosb)

的过渡矩阵o

a,a,「

（3）Dx[=aecosbt-besinbt=axbx2,

1

DX2=ae^sinbt+be"cosbt=bx}+ax2,

a,a,a,

Dxy=ecosbt+atecosbt-btesinbt=玉+axy-bx4,

a,a,a,

DX4=esinbt+atesinbt+btecosbt=x2+bx3+ax4o

"ah1、

由此可得，微分算子。在基内,羽，&,七卜的矩阵为A=|。

ab

、~b%

四.线性变换下向量的坐标

在线性空间中，由于每个向量均能表示成一组基的线性组合，因此向量在线性变换下的像将由基的

像来决定。

结论4：设囚,%，,%为线性空间V的一组基，线性变换了在基冈,％，…，%下的矩阵表示为A,向

量a在此基下的坐标为（£,&,，（）'，那么7'a的坐标为A（K&,，工了。

例3：

§1.3内积空间

一、内积空间的根本概念

定义1：设V是实数或复数域尸上的线性空间，假设对任何向量都存在尸上确实定数*,），〉，

满足以下条件：

（1）<x,x>>0,等号成立当且仅当x=0：

⑵〈a-x+/?・），,z〉=a（x,z〉+£〈y,z〉；

⑶〈x,y〉=（y㈤。

那么称〈X,），〉为X与），的内积，V为内积空间。特别P=R时，V称为欧氏空间；P=C时，丫称为

酉空间。

显然，内积空间中具有两种相容的根本运算：线性运算和内积，其中内积运算具有线性性。内积运

算虽然不是封闭的，但可视为元素的示性运算。

例1：常见的内积空间产，产1NC］。

结论1：对每一个xeV,令帆=q〈x,»,那么帆为一个实数，并满足：①同NO，当且仅当汇=0

时等号成立，②|M|=|创用awP,③帆，即可两成V上的一个范数，称为内积诱

导的范数，V构成赋范线性空间。

注：假设定义d（x,y）=卜一耳，那么d（x,.y）具有正定性、对称性并满足三点不等式，从而d（x,），）构

成V上的一个距离，称为内积诱导的距离，V构成一个距离空间。

Schwarz不等式：）'〉|«卜||，||）'||，等号成立当且仅当x与），线性相关。

证明：不妨设），H0,由a-线义yx-在可得，

\yyy）

〈羽》一«叫“0,从而|〈尤），〉『,

3）»

并且等号成立当且仅当",y〉x—〈乂），〉），二0即x与），线性相关。

二、正交基

1、正交向量组与Schmidt正交化

定义2：设V是内积空间，苍ywV,假设〈x,y〉=0,那么称x与y正交，记为x_L），。假设丫中非零

向量组四,%，…，。〃两两正交，那么称为正交向量组。

结论2：正交向量组必是线性无关的，线性无关向量组必可5。/"而由正交化。

〈心，

a

对于线性无关向量组，令尸1=%，Pl~2-P\'…,

仇=«，一告细氏-L…-你一宾4,那么四，%，…，%是与《，%，…，%相互等价的正交向

(Pn-WPn-V，内Pv

量组。

例2：试将内积空间回中向量i,x,f正交化。

a

解：设四=1,a2=xt%=工2,令方=6，^2=2-Tn~^n\^)

〈%Pv

凤=a「铝条儿一条那么笈=1，人=14,四=/7+卜

VV㈤3，/¥26

2、标准正交基

定义3：设囚,见，…，6为〃维内积空间V中两两正交的单位向量组，那么称弓,鬼，…，氏为V的标注

正交基。

结论3：任何有限维内积空间总有标准正交基，标准正交基下向量的内积为对应坐标在P”中的内积。

结论4：标准正交基之间的过渡矩阵尸是酉矩阵或正交矩阵，即P"P=E。

推论：酉空间或欧氏空间中标准正交基之间的过渡矩阵为酉矩阵或正交矩阵。

注：可通过构造酉矩阵或正交矩阵来建立新的标准正交基。

结论5：方阵为酉矩阵(正交矩阵)的充分必要条件是其列向量组构成C"(R")中的标准正交基。

三.正交分解

定义4：假设DaeA,有xJLa,那么称x与A正交，记为x_LA。假设DaeA,Z?e3,有。_L。，

那么称A与8正交，记为A_LB。

定理：设匕匕为内积空间V的子空间，并且匕1匕，那么乂+匕是直和。

证明：任取awV,。％,那么aeV；,ae%。由V,J.匕可得，〈a,a〉=(),从而a=0,因此

耳。％={0},从而乂+匕是直和。

结论6：WL={a|a_LW,a£V}为丫的子空间，称之为W的正交补空间。

正交分解定理：对于任何V的子空间W,总有V=W㊉W\

22

例3：在欧氏空间胪2中的内积定义为(AB)这£叫(A=(%%2,B=(%).),

/=|>1

(\n(on.

设A=[oo)4=[iJ,令w=sps{A，AJ,

求(i)w1"的一个基；(2)将A，4扩展为R"2=w+w，的一个标准正交基。

」丫b、rorh

解：⑴由〈>=0,<)=0,

<0oj\d.JLd

即a+/，=O*+c+d=O,解之得(a,4c,d)'=c(l,—1,1,0)'

由此可得，4=

⑵/1fl。

四.最小二乘法

定义：

定理：

r

最小二乘法定理：设q,/，•••，4，〃均为加维列向量，假设x=(xI,x2,...,xn)er使得

M-(N4+天々2+…+七4)||到达最小，那么A'Ar=Ab，其中A=(tzpa2,---,an)。

2rT1T

证明：由口〃一+x2a2+•­•+xnan)||=(/?-Ar)(/?-Av)=xAAx-217Ax+bb可得，

^b-{x}a}+x2a2++x〃a”)口到达最小时，x满足A「Ar=A%。

||Z?-(x1«I+x2a2++x“a")||的最小值为0时，入满足Ar=。；

心一(M4十占里十••十的最小值大于。时，由尺(A「A)=A(A’)可知，对于任何he/T,

/fAr=A)总是有解的。

710](1、

例4：设A=I2i,b=1,求Ax=〃的最正确解。

JS

<23

§1.4正交变换及其特征

一、正交变换的概念

定义：设厂是内积空间丫到V中的映射，假设对任何xywV,都有＜笈,7)，＞=＜%)，＞,那么称T是

V上的正交变换。

注：正交变换保持内积运算不变。

性质：正交变换必为线性变换；

证明：对任何苍ywV,

+v>+vx,y>—vy,x+y>+vy,x>+vy,y>=0。

由此可得，对任何x,y£V,T(x+y)=Tx+Ty0

对任何xeV,2GP,

由此可得，对任何xtV,2eP,T(Ax)=ATxo

二.正交变换的特征

定理1：线性变换为正交变换的充分必要条件是在标准正交基下的矩阵为酉矩阵或正交矩阵。

证明：

注：标准正交基之间的过渡矩阵为酉矩阵或正交短阵，因此可利用正交变换来构造新的标准正交基。

定理2：线性变换为正交变换的充分必要条件是将标准正交基变为标准正交基。

证明：

推论：向量在正交变换基下的坐标等于在原标准正交基下的坐标左乘过渡矩阵（也即正交变换系数矩阵）

逆矩阵（也即转置矩阵）。

注：标准正交基之间的过渡矩阵恰好对应着一个正交变换。

定理3：线性变换为正交变换的充分必要条件是保持长度不变。

证明：

注：保持长度不变的线性变换也保舟夹角不变。

三.正交变换的几何作用：二维和三维空间中的旋转、反射变换。

I、二维空间中的旋转变换

对于任何（x,yw川，设7（x,y）r=（xcosO+ysinO,-xsinO+ycosO）r，那么正交变换T是*°

的旋转变换。

/b/、7（cosOsin（）\

事实上，假设设q=1,0,当=0,1）,那么7在q,e,下的矩阵为A=.八八。

<-sinOcosO）

由比可知，r是x轴逆时针旋转。的正交变换。

2,三维空间中的旋转变换

对于任何（x,y,z）TeR，,设

7T

T(x,y,z)=(xcosycosO-ysinO-zsinycosO,xcosysinO+ycosO-zsinysinO,xsiny+zcosy)那么

正交变换了是内中的旋转变换。

事实上，假设设0=（1,0,0）7,e2=（0,1,0）/,G=（0,0，l）,那么/在6，6,%下的矩阵为

cosycosO-sinO-sinycosOy

A=cosysinOcosO-sinysinO

、siny0cosy,

由比可知，r是X轴旋转（仇7）、）轴旋转6、Z轴旋转y的正交变换。

3、二维空间中的反射变换

对于任何（x,y）,£店，设（&）,）『二（r,），）/，弓二（1,0）T，s=（0,1），那么正交变换工是片d

f-10、

关「丁铀的反射变换，基〜6下的矩阵为A=[oJo

设那么正交变换心是解中关于坐标原点的反射变换，基4,S下的矩阵为

设7；（X,、¥=（LX），那么正交变换7；是R2中关于对角线y=x的反射变换，基令G下的矩阵为

<01）

AR=o

Uoj

4,三维空间中的反射变换

对于任何（x,y,z），£R，,设7[x,），,z）7=（y,x,z）‘，那么正交交换7是内中关于平面y二k的反

射变换，基0=（1,0,0）',S=（0，1，0），63=（0,0，1）'下的矩阵为

’010、

A=100o

、。。b

注：任何正交变换总可分解为一系列旋转和反射变换的复合。如，A二一一’对应的正交变

sinO-cosO

（cos（）sin（）\（~\0）

换就是对应的旋转和对应的反射的复合。

、一sinOcosO）（0-1,

81