理论分析相关基本概念和基础知识课件

理论分析相关基本概念和基础知识理论分析相关基本概念和基础知识线性向量空间1.一个被称为向量加的操作定义为：

ifx

Xandy

Xthenx+y

X.2.x+y=y+x3.(x+y)+z=x+(y+z)4.存在唯一称为零向量的向量0

X，对于所有的x

X

都有x+0=x.一个线性向量空间X是一组定义在标量域F上且满足如下条件的元素向量集合：理论分析相关基本概念和基础知识线性向量空间（续）5.对于X中每一个向量,存在唯一的向量(-x),使得x+(-x)=0.6.一个被称为向量乘的操作定义为：对于所有的a

F的标量,以及所有的x

X,都有ax

X.7.对于所有的向量x

X和标量1,有1x

=

x.8.对于任意标量a

F和b

F,以及任意向量x

X,有a

(bx)

=

(a

b)

x.9.(a

+

b)

x

=

a

x+

b

x

.10. a

(x

+

y)

=

a

x+

a

y理论分析相关基本概念和基础知识线性向量空间举例线性向量空间（续）理论分析相关基本概念和基础知识线性无关如果当且仅当因此被称为一组线性无关的向量理论分析相关基本概念和基础知识两个向量独立线性无关（续）理论分析相关基本概念和基础知识生成空间如果线性空间存在一个子集，且空间中的每个向量都能写成该子集向量的线性组合，那么该子集就能够生成一个空间理论分析相关基本概念和基础知识基集合X的基集合是由生成X的线性无关的向量组成的集合向量空间的维数,Dim(X),等于基集中元素的个数

X是一个有限维的向量空间，则X的每个基集合的元素数量相等理论分析相关基本概念和基础知识内积

满足下列条件的关于的标量函数，都可以定义为内积(x,y)=(y,x).(x,ay1+by2)=a(x,y1)+b(x,y2).(x,x)>=0,当且仅当是零向量时，(x,x)=0.理论分析相关基本概念和基础知识范数

如果一个向量x的标量函数满足下列条件，则被称为范数：||x||≥0.||x||=0，当且仅当x=0.||ax||=|a|||x||，对于所有的标量a.||x+y||≤||x||+||y||.理论分析相关基本概念和基础知识内积与范数（示例）标准内积标准的欧氏范数||x||=(x,x)1/2||x||=(xTx)1/2=(x12+x22+...+xn2)1/2理论分析相关基本概念和基础知识角度cos(q)=(x,y)/(||x||||y||)qX(x1,x2)Y(y1,y2)理论分析相关基本概念和基础知识正交的向量：两个向量x,yÎX，满足(x,y)=0，则称其正交正交在p2,p3

空间中的任意向量都与权值向量正交正交的向量空间如果子空间X1的每一个向量都与子空间X2中每个向量正交，称X1正交于X2理论分析相关基本概念和基础知识线性无关和正交性是相互联系的Gram-Schmidt正交化线性无关向量正交向量Step1:选择第一个线性无关向量作为第一个正交向量.理论分析相关基本概念和基础知识Step2:将y2

减去处于v1方向上的分量其中a必须合适选取，使得v2

垂直v1:Gram-Schmidt正交化（续）理论分析相关基本概念和基础知识投影y2

在v1上的投影：Stepk:将yk减去处于前面正交向量vi方向上的分量和

.Gram-Schmidt正交化（续）qY2Y1,V1aV1V2理论分析相关基本概念和基础知识Gram-Schmidt正交化（续）Step1.理论分析相关基本概念和基础知识Gram-Schmidt正交化（续）Step2.理论分析相关基本概念和基础知识如果向量空间X的基集为{v1,v2,...,vn},那么对于任意的xÎX

有唯一的向量展开式:向量展开如果基集合中的向量是正交的（(vi,vj)=0,ij）,求vj

和x的内积

:因此，展开式的系数为:理论分析相关基本概念和基础知识xx1x2xn=为了理解x,我们必须要了解对应展开的基集是什么向量展开（续）向量展开提供了用一列数据来表示向量的方法理论分析相关基本概念和基础知识定义互逆基向量,ri:互逆基向量rivj(,)0ij¹=1ij==其中基向量为{v1,v2,...,vn},互逆基向量为{r1,r2,...,rn}.因此,互逆基向量方程可以写成：如果互逆基向量已经表示成一列数的形式，并采用了标准内积理论分析相关基本概念和基础知识r1v2(,)r1v3(,)¼r1vn(,)0====rv11(,)1=与第一个互逆向量的内积为:依据定义:因此，展开式中第一个系数:一般地，有：互逆基向量（序）理论分析相关基本概念和基础知识向量展开：互逆基向量（序）理论分析相关基本概念和基础知识互逆基向量:展开系数:矩阵形式:互逆基向量（序）理论分析相关基本概念和基础知识展开向量的表示取决于所使用的基集.x1–()s12s2+2v11.5v2-==xv1.5–2=互逆基向量（序）理论分析相关基本概念和基础知识线性变换(lineartransformation)一个变换由三部分组成:1.一个被称为定义域（domain）的元素集合：X={xi}2.一个被称为值域（range）的元素集合Y={yi},3.一个联系xi

ÎX

和yi

ÎY的规则.线性变换:1.对于所有x1,

x2

ÎX,A(x1+x2

)=A(x1)+A(x2

),2.对于所有xÎX,a

ÎÂ,A(a

x)=a

A(x).理论分析相关基本概念和基础知识1.2.线性变换(lineartransformation)理论分析相关基本概念和基础知识设{v1,v2,...,vn}是向量空间的X一个基向量,{u1,u2,...,um}是向量空间的Y一个基向量.定义线性变换A:X®Y矩阵表示任何两个有限维向量空间的线性变换都可以用矩阵(运算)表示理论分析相关基本概念和基础知识由于A

是一个线性操作,由于ui是向量空间的Y一个基向量(aij

应该保证矩阵表示的变换成立)矩阵表示(续)理论分析相关基本概念和基础知识因为ui

是独立的,a11a12¼a1na21a22¼a2nam1am2¼amnx1x2xny1y2ym=矩阵表示.矩阵表示(续)理论分析相关基本概念和基础知识一个线性变换可以表示为一个矩阵的乘。一个线性变换的矩阵表示也不唯一，如果改变定义域或值域的基集，变换矩阵也将改变。每一个这样的等式都使我们获得变换矩阵的列矩阵表示(总结)理论分析相关基本概念和基础知识其它概念基变换相似变换特征值特征向量AZ＝λZ理论分析相关基本概念和基础知识基变换A(X)=yA’(X’)=y’Bt=[t1t2….tn],Bw=[w1w2….wm],y=Bwy’A’=inv(Bw)ABt理论分析相关基本概念和基础知识对角化B=[z1z2….zn]它们是一个方阵A的特征向量。[inv(B)*A*B]=对角阵理论分析相关基本概念和基础知识判断单神经元感知器网络的判定边界Wp＋b＝0。若b＝0，那么判定边界是一个向量空间吗？若b不为0，那么判定边界是一个向量空间吗？非负连续函数集合是一个向量空间？[111][101][121]是否是线性无关的？[1111][1011][1211]是否是线性无关的？Sinx,cosx,2cos(t+pi/4)是否是线性无关的？理论分析相关基本概念和基础知识判断两个模式是线性可分的，它们一定是线性无关的吗？定义在区间[-11]上的所有多项式所构成的向量空间。（X，Y）＝Interger[X(t)y(t)dt]是否是一个有效的内积？A=purelin(Wp+b)。从输入到输出向量之间的变换是线性变换吗？矩阵的转置操作是否是线性变换？理论分析相关基本概念和基础知识计算基向量[111][100][010]的正交集?