《目标跟踪系统中的滤波方法》课件第10章

第10章数学预备知识

10.1向量和矩阵10.2随机变量、随机向量和随机过程

10.1向量和矩阵

10.1.1向量的有关概念

(1)n维向量。n个有次序的数a1，a2，…，an所组成的数组，这n个数称为该向量的n个分量，第i个数ai称为第i个分量。

n维列向量表示为：

，n维行向量表示为：aT=[a1，

a2，…，an]。特别地，分量全为零的向量称为零向量，记为0。

(2)向量空间。设V为n维向量的集合，如果集合V非空，且集合V对于加法及乘法两种运算封闭，那么就称集合V为向量空间。

(3)r维向量空间。设V为向量空间，如果r个向量a1，a2，…，ar∈V，且满足：①a1，a2，…，ar线性无关；②V中任一向量都可由a1，a2，…，ar线性表示，那么向量组a1，a2，…，ar就称为向量空间V的一个基，r称为向量空间V的维数，并且称V为r维向量空间，记作Vr。通常取V为R或C，此时相应的Vr分别称为r维实向量空间Rr或r维复向量空间Cr。10.1.2矩阵运算

(1)矩阵的加法。设有两个m×n矩阵A=(a

ij)m×n，B=(bij)m×n，矩阵A与矩阵B的和记作(10-1)若A=(aij)m×n，则把(－aij)m×n记作－A，称为A的负矩阵。

(2)矩阵的乘法。设A是m×s矩阵，B是s×n矩阵，那么矩阵A和矩阵B的乘积是一个m×n矩阵C，其中(10-2)记作C=AB。只有矩阵A的列数与矩阵B的行数相等时，乘积AB才有意义。一般地，AB≠BA。此外，矩阵的乘法满足下列规律：

①结合律：(AB)C=A(BC)；

②分配律：A(B+C)=AB+AC，(A+B)C=AC+BC；

③λ(AB)=(λA)B=A(λB)，λ为数。

④n阶方阵(10-3)称为n阶单位方阵。显然，对任一n×m矩阵A，有等式InA=AIm=A

(10-4)

(3)矩阵的数量乘积。数λ与矩阵A=(aij)m×n的乘积，简称数乘，记作λA或Aλ，规定为(10-5)数乘矩阵满足下列运算规律(设A、B为m×n矩阵，λ、μ为数)：①(λμ)A=λ(μA)；②(λ+μ)A=λA+μA；③λ(A+B)=λA+λB；④cA=0当且仅当c=0或A=0。

(4)矩阵其它运算性质。若λ为标量，A为n维方阵，B为n维方阵，则有

(AB)T=BTAT，det(λA)=λndet(A)

(10-6)

det(AB)=det(A)·det(B)

(10-7)10.1.3矩阵的特征值与特征向量

1.特征值与特征向量的定义

设A=(aij)n×n是n阶方阵，若存在数λ和n维非零列向量x，使得Ax=λx成立，则称数λ为方阵A的特征值，称非零向量x为方阵A对应特征值λ的特征向量。若将式Ax=λx变为(λI－A)x=0或(A－λI)x=0，则满足这个方程的λ和x就是所要求的特征值和特征向量。

式(λI－A)x=0是含n个方程的n元齐次线性方程组，它有非零解的充要条件是|λI－A|=0。记(10-8)称f(λ)为方阵A的特征多项式，方程f(λ)=0称为方阵A的特征方程，特征值即为特征方程的根。由于f(λ)是λ的n次多项式，所以方程f(λ)=0在复数域内有n个根(重根按重数计算)。

2.特征值与特征向量的性质

(1)n阶矩阵A与其转置矩阵AT有相同的特征值。

(2)设λ1，λ2，…，λn是矩阵A的n个特征值，则:

①λ1+λ2+…+λn=a11+a22+…+ann；

②λ1λ2…λn=|A|。

(3)设λ为方阵A的特征值，则:

①当A可逆时，1/λ是A－1的特征值；

②|A|/λ是A的伴随矩阵A*的特征值；

③λm(m∈N)是Am的特征值，进而矩阵A的m次多项式为

f(A)=a0Am+a1Am－1+…+am－1A+amI

其特征值为

f(λ)=a0λm+a1λm－1+…+am－1λ+am

10.1.4逆矩阵

1.逆矩阵的定义

设A为n阶方阵，若存在n阶方阵B，使得AB=BA=In，其中In为n阶单位方阵，则称A为可逆矩阵，并称B为A的逆矩阵，记A－1=B;B的逆矩阵为A，记B－1=A。我们也称矩阵A和矩阵B互逆。

2.逆矩阵的性质

(1)若矩阵A可逆，则A的逆矩阵唯一。

(2)若A和B为同阶方阵，且满足AB=I，则BA=I，即矩阵A和矩阵B互逆。

(3)若A可逆，则A－1也可逆，且(A－1)－1=A。

(4)若A可逆，数λ≠0，则λA可逆，且(λA)－1=(1/λ)

A－1。

(5)若A和B均为n阶逆矩阵,则AB也可逆,且(AB)－1=B－1

A－1。

(6)若A可逆，则AT也可逆，且(AT)－1=(A－1)T。

3.强广义逆矩阵的定义

设A为n×m复矩阵，X为由mn个独立复向量构成的m×n矩阵，则下列等式联立的矩阵方程组

AXA=A,XAX=X，(AX)*=AX，(XA)*=XA(10-9)

有唯一解，称为n×m复矩阵A的强广义逆矩阵，记作A+。

4.广义逆矩阵的定义

设A为n×m复矩阵，X为由mn个独立复向量构成的m×n矩阵，则矩阵方程

AXA=A

(10-10)

的通解为n×m复矩阵A的广义逆矩阵，记作A－。

设A为n×m复矩阵，且

,其中U及V分别为n阶及m阶酉方阵。则A的广义逆矩阵为(10-11)其中，X12、X21和X22分别由r(m－r)，r(n－r)和(m－r)(n－r)个独立复参数构成，所以共有mn－r2个独立复参数，因此广义矩阵不唯一，实际上它们全体构成一个集合，而A

－只表示这个集合中的任意一个元素。

5.分块三角矩阵求逆公式

如果A是一个m+n维的分块三角矩阵(10-12)或者(10-13)其中，A11和A22分别为m维和n维的可逆矩阵，则矩阵A也是可逆矩阵，且(10-14)(10-15)或者证明：由于(10-16)其中，Im、In、Im+n分别为m维、n维及m+n维单位矩阵，故式(10-12)为式(10-14)的逆矩阵。同理可证明式(10-13)为式(10-15)的逆矩阵。证毕。10.1.5矩阵求逆引理

矩阵求逆引理如果对任一n×n维非奇异矩阵A与任意两个n×m维矩阵B和C，矩阵(A+BCT)与(I+CTA－1B)是非奇异的，则有如下矩阵恒等式成立：

(A+BC)－1=A－1－A－1B(I+CTA－1B)－1CTA－1

(10-17)

证明：定义下列n×n维矩阵：

D=A+BCT

(10-18)

根据假定，D是非奇异的，因此可用D－1左乘式(10-18)，得

D－1D=I=D－1A+D－1BCT

(10-19)

再用A－1右乘式(10-19)，得

A－1=D－1+D－1BCTA－1

(10-20)

或

D－1BCTA－1=A－1－D－1

(10-21)

然后，用B右乘式(10-20)两边，得

A－1B=D－1B+D－1BCTA－1B=D－1B(I+CTA－1B)(10-22)

因为(I+CTA－1B)是非奇异的，用(I+CTA－1B)－1右乘式(10-22)，得

D－1B=A－1B(I+CTA－1B)－1

(10-23)

最后用CTA－1右乘式(10-23)，得

D－1BCTA－1=A－1B(I+CTA－1B)－1CTA－1

(10-24)

将式(10-21)带入式(10-24)，得

A－1－D－1=A－1B(I+CTA－1B)－1CTA－1

(10-25)

或

D－1=A－1－A－1B(I+CTA－1B)－1CTA－1

(10-26)因为D=A+BCT，所以式(10-26)成为原恒等式

(A+BCT)－1=A－1－A－1B(I+CTA－1B)－1CTA－1

(10-27)

证毕。10.1.6正定矩阵和半正定矩阵

正定矩阵和半正定矩阵的定义设有二次型f(x)=xTAx，如果对任何x≠0：若恒有f(x)>0，则称f为正定二次型，此时对称矩阵A称为正定矩阵；若恒有f(x)≥0，则称f为半正定二次型，此时对称矩阵A称为半正定矩阵。

有下列命题成立：

(1)对称阵A为正定的充分必要条件是：A的特征值全为正。

(2)对称阵A为正定的充分必要条件是：A的各阶主子式都为正，即

(3)A为半正定的充分必要条件是：A的所有主子式全大于或等于零。10.1.7矩阵的奇异值分解

对于矩阵Am×n，若存在非负实数σ，n维非零向量u，m维非零向量v，使得

Au=σv，AT=σu

(10-28)

则称σ为A的奇异值，u和v分别称为A对应于奇异值σ的右奇异向量和左奇异向量。

矩阵的奇异值分解定理设A是m×n矩阵，R(A)=r，σ1，σ2，…，σn是A的奇异值，且σ1≥σ2≥…≥σr≥σr+1=σr+2=…=σn=0，则A=USVT，其中U是m阶正交矩阵，V是n阶正交矩阵，

，而Σr=diag(σ1，σ2，…，σr)。也可以表示为

A=UTSV=σ1u1vT1+σ2u2vT2+…+σnunvTn

(10-29)

其中，ui是矩阵U的第i列(i=1，2，…，m)，v

j是矩阵V的第j列(j=1，2，…，n)。10.1.8向量与矩阵的微分运算

1.向量值函数与矩阵值函数对标量的微分计算

设向量值函数为

z(t)=[z1(t)

z2(t)

…

zn(t)]T

(10-30)

则z(t)对t的导数为(10-31)设矩阵值函数为F(t)=[fij(t)]m×n，则F(t)对t的求导为(10-32)F(t)在[t1，t2]上的积分为(10-33)(10-34)

设A(t)为n维可逆矩阵，则A的逆对标量t的导数为

2.标量值函数对向量与矩阵的微分运算

设n维向量x的标量值函数为y=f(x)=f(x1，x2，…，xn)，于是y=f(x)对x的求导为(10-35)通常称其为y=f(x)的梯度。设A为m×n维矩阵(10-36)其标量值函数为y=f(A)－f(x11，…，x1n;

x21，…，x2n;…;xm1，…，xmn)。

于是y=f(x)对A的导数为(10-37)

3.二次型及双线型对向量的微分运算

1)二次型对向量的微分运算

设有二次型Q=XTAX，其中A为n维对称方阵，X为n维向量，则Q对X的偏导数为(10-38)(10-39)证明：由于则对xk求偏导数，得(10-40)上式说明，Q对xk的导数等于矩阵AX及ATX的第k行之和。再根据式(10-40)，得(10-41)又由于Q=XTAX中的矩阵A为对称矩阵(即AT=A)，故有

。证毕。

2)双线型对向量的微分运算

对于双线型Q=XTAY，其中A为n维方阵，X、Y都是n维向量，有(10-42)上式的证明过程与二次型对向量的微分运算证明过程类似。

4.向量与矩阵值函数对向量的微分运算

设向量值函数为(10-43)(10-44)当x为列向量时，通常规定矩阵为z(x)对x的偏导数，并简记为。

设矩阵值函数F(x)=[aij(x1，x2，…，xn)]m×n，其中x为n维向量，则F(x)对x的偏导数为(10-45)10.1.9雅可比矩阵和Hessian矩阵

1.雅可比矩阵

雅可比矩阵是一阶偏导数以一定方式排列成的矩阵，其行列式称为雅克比行列式。假设F：Rn→Rm是一个从欧式n维空间转换到欧式m维空间的函数。这个函数由m个实函数组成：y1(x1，x2，…，xn)，…，ym(x1，x2，…，xn)，这些函数的偏导数(如果存在)可以组成一个m行n列的矩阵，即为雅可比矩阵(10-46)此矩阵可表示为JF(x1，x2，…，xn)，或者。这个矩阵的第i行是由梯度函数的转置yi(i=1，2，…，m)表示的。

2.Hessian矩阵

Hessian矩阵是一个由自变量为向量的实值函数的二阶偏导数组成的方阵。此函数为f(x1，x2，…，xn)，如果f所有的二阶导数都存在，那么f的Hessian矩阵为(10-47)

Hessian矩阵的对称性是指：Hessian矩阵的混合偏导数是Hessian矩阵非对角线上的元素，假如它们是连续的，那么求导顺序没有区别，即(10-48)上式也可写为fxy=fyx。如果f函数在区域D内连续并处处存在二阶导数，那么f的Hessian矩阵在D区域内为对称矩阵。

10.2随机变量、随机向量和随机过程

10.2.1随机变量的函数及其分布

1.一维随机变量的函数及其分布

设ξ为一维随机变量，f(x)是一元实变连续函数，那么η=f(ξ)也是一个随机变量，称η为ξ的函数，由ξ的分布及函数关系f(x)可以确定η=f(ξ)的分布。

(1)离散型。设ξ是离散型的随机变量，且概率函数为p{ξ=xi}=pi，i=1，2，…，则η=f(ξ)是离散型随机变量，其分布律(概率函数)为

p{η=f(xi)}=pi，i=1，2，…

(10-49)

其中f(xi)值相同的概率应合并相加。

(2)连续型。设ξ是连续型随机变量，其密度为pξ(x)。若y=f(x)严格单调、可微且f′(x)≠0(即f′(x)>0或f′(x)<0)，则η=f(ξ)是连续型随机变量，且其密度(概率函数)为(10-50)其中，f－1(y)为y=f(x)的反函数，区间(α，β)为y=f(x)的值域；若y=f(x)是分段严格单调、可导函数，即存在有限个或可列个区间[ai，ai+1]，i=…-n，…，-1，0，1，2，…，使得在[ai，ai+1]上f(x)单调增或单调减，f′(x)≠0且将此区间内函数y=f(x)的反函数记为x=fi－1(y)，相应的y的区间记为[αi，βi]，则η=f(ξ)的分布密度(概率函数)为其中(10-51)求η=f(ξ)的分布密度的另一种方法是：先用定义求η的分布函数Fη(y)，再求导数得η的分布密度pη(y)，即(10-52)其中S={x:f(x)<y}。而η=f(ξ)的分布密度为

。一般地，若随机变量ξ有有限方差Dξ>0(从而数学期望Eξ也有限)，则若

，有Eη=0，Dη=1。

2.二维随机变量的函数及其分布

设(ξ，η)是二维随机变量，f(x，y)是二元时变连续函数，称随机变量ζ=f(ξ，η)为(ξ，η)的函数。

(1)离散型。设(ξ，η)是二维离散型随机变量，概率函数为p{ξ=xi，η=yi}=pij，i，j=1，2，…，则ζ=f(ξ，η)也是离散型随机变量，其概率函数为

p{ζ=f(xi，yi)}=pij，i，j=1，2，…

(10-53)

(2)连续型。设(ξ，η)是二维连续型随机变量，密度为p(x，y)，则ζ=f(ξ，η)的分布函数为(10-54)

(3)两个随机变量之和的分布。设二维连续型的随机变量(ξ，η)的分布密度为p(x，y)，则ζ=ξ+η的分布密度为(10-55)特别地，当ξ，η独立时，有(10-56)

(4)两个随机变量之商的分布。设二维连续型随机变量(ξ，η)的分布密度为p(x，y)，则ζ=ξ/η的分布密度为(10-57)(10-58)

3.二维随机变量的变换及其分布

设二维随机变量(ξ，η)有密度pξ，η(x，y)，又设f(x，y)，g(x，y)是两个二元实变连续函数，由确定的二维随机变量(μ，ν)称为(ξ，η)的变换(也称函数)，若变换存在唯一的逆变换，且都连续，则(μ，ν)是连续型的。它的密度为(10-59)其中

称为变换的雅可比行列式。而D={(u，v):u=f(x，y)，v=g(x，y)}关于n维随机变量的变换，有着与二维情形类似的结论。

4.随机变量函数的独立性

设(ξ11，ξ12，…，ξ1n1)，(ξ21，ξ22，…，ξ2n2),…，(ξk1，ξk2，…，ξknk)是k个随机向量，若对任意实数x11，x12，…，x1n1;x21，x22，…，x2n2;…;xk1，xk2，…，xknk，有

(10-60)

则称这k个随机向量独立。若随机向量(ξ11，ξ12，…，ξ1n1)，(ξ21，ξ22，…，ξ2n2)，…，(ξk1，ξk2，…，ξknk)独立，则从这些向量中各自任选一个子向量(一个向量的部分分量所组成的向量称为该向量的子向量)所组成的k个子向量也独立。若ξ11，ξ12，…，ξ1n1;ξ21，ξ22，…，ξ2n2;…;ξk1，ξk2，…，ξknk是n1+n2+…+nk个独立的随机变量，又fi是ni元的实变连续函数，且ηi=fi(ξi1，ξi2，…，ξini)，i=1，2，…，k，则随机变量的函数η1，η2，…，ηk也相互独立。10.2.2随机变量的数字特征

1.数学期望

(1)离散型随机变量的数学期望。设离散型随机变量ξ的分布列为P{ξ=xi}=pi，i=1，2，…，若级数收敛，则ξ的数学期望定义为(10-61)

(2)连续型随机变量的数学期望。设连续型随机变量ξ的密度为p(x)，若∫+∞－∞|x|p(x)dx收敛，则ξ的数学期望定义为(10-62)

(3)离散型随机变量函数的数学期望。设离散型随机变量ξ的分布列为P{ξ=xi}=pi，i=1，2，…，又η=f(ξ)，其中f(x)为定义在{xi，i=1，2，…}上的任意实函数，若级数收敛，则η=f(ξ)的数学期望为(10-63)

(4)连续型随机变量函数的数学期望。设连续型随机变量ξ的密度为p(x)，又η=f(ξ)，其中f(x)是区间(－∞，+∞)内的连续函数，若∫+∞－∞|f(x)|p(x)dx收敛，则η=f(ξ)的数学期望为(10-64)随机变量函数η=f(ξ)的数学期望可统一表示为(10-65)

2.方差

设ξ是一个随机变量，若E(ξ－Eξ)2存在，则称它为ξ的方差，记为Dξ，即

Dξ=E(ξ－Eξ)2

(10-66)

称为ξ的标准差。

(1)离散型随机变量的方差。若ξ为离散型随机变量，则其方差为(10-67)其中pi=P(ξ=x

i)，i=1，2，…，为ξ的分布列。

(2)连续型随机变量的方差。若ξ为连续型随机变量，则其方差为(10-68)其中p(x)为ξ的密度。计算方差常常用到的公式为Dξ=Eξ2－(Eξ)2。

3.一些常用分布的期望与方差

(1)离散型分布：

①二项分布B(n，p)：Eξ=np，Dξ=np(1－p)。

②0-1分布B(1，p)：Eξ=p，Dξ=p(1－p)。

③Poisson分布P(λ)：Eξ=λ，Dξ=λ。

(2)连续型分布：

①均匀分布R[a，b]:Eξ=(a+b)/2，Dξ=(b－a)2/12。

②指数分布E(λ):Eξ=1/λ，Dξ=1/λ2。

③高斯分布N(μ，σ2):Eξ=μ，Dξ=σ2。

4.矩、协方差与相关系数

(1)矩。设k是自然数，若E(ξk)存在，则称它为ξ的k阶原点矩；若E[(ξ－Eξ)k]存在，则称它为ξ的k阶中心矩。显然，一阶原点矩就是数学期望，二阶中心矩就是方差。

(2)协方差。若E[(ξ－Eξ)(η－Eη)]存在，则称它为随机变量ξ与η的协方差，记为cov(ξ，η)，即

cov(ξ，η)=E[(ξ－Eξ)(η－Eη)]

(10-69)

由协方差的定义，易知有下列等式

cov(ξ，ξ)=Dξ

(10-70)

cov(ξ，η)=E(ξη)－E(ξ)E(η)

(10-71)

D(ξ±η)=D(ξ)+D(η)±2cov(ξ，η)

(10-72)

(3)相关系数。若随机变量ξ，η的方差Dξ，Dη均存在且大于零，则称

(10-73)

为ξ与η的相关系数。当ρ(ξ，η)=0(即cov(ξ，η)=0)时，则称ξ与η不相关；当ρ(ξ，η)≠0，则称ξ与η相关。10.2.3随机向量

(1)随机向量的联合分布。设X=(X1，X2，…，Xp)T是p维随机向量，称p元函数F(x1，…，xp)=P{X1≤x1，…，Xp≤xp}为X的联合分布密度。

若存在非负函数f(x1，x2，…，xp)，使得随机向量X的联合分布密度对一切(x1，x2，…，xp)∈Rp均可表示为

，则称X为连续型随机变量，称f(x1，x2，…，xp)为X的联合概率密度函数，简称为多元密度函数或密度函数。

(2)随机向量的边缘分布。该分布是指随机向量X的部分分量(Xi1，…，Xim)(1≤m<p)的分布。设X(1)为r维随机向量，X(2)为p－r维随机向量，若p维随机向量X=[X(1)

X(2)]T，则X(1)的边缘分布为(10-74)(10-75)X(2)的边缘分布为

(3)随机向量的条件分布。设X(1)为r维随机向量，X(2)为p－r维随机向量。若p维随机向量X=[X(1)

X(2)]T，则当给定X(2)时，X(1)的条件密度为

(4)随机向量的独立性。设(X1，…，Xn)是离散型随机向量，则X1，…，Xn相互独立的充要条件是：对任意i1，i2，…，in=1，2，…，有(10-76)设(X1，…，Xn)是连续型随机向量，f(x1，…，xn)及fX1(x1),…，fXn(x

n)分别是(X1，…，Xn)的联合概率密度及X1，…，Xn的概率密度，则X1，…，Xn相互独立的充要条件是可以证明，若随机变量X1，…，Xn相互独立，fi(x)为Borel可测函数，i=1，2，…，n，则f1(X1)，f2(X2)，…，fn(Xn)也相互独立。

(5)随机向量的数字特征。设X=(X1，…，Xp)T，Y=(Y1,…,Yq)T是两个随机向量，则随机向量有如下数字特征：

①随机向量的均值向量。若E(Xi)=μi存在，则称(10-78)为随机向量X的均值向量。②随机向量的协方差矩阵。若Xi和Xj的协方差cov(Xi，Xj)存在(i，j=1，2，…，p)，则称(10-79)为随机向量X的协方差矩阵。③两个随机向量的协方差阵。若Xi和Yj的协方差cov(Xi，Yj)存在(i=1，…，p;j=1，…，q)，则称(10-80)为随机向量X和Y的协方差阵。若cov(X，Y)=0，则称X与Y不相关。④随机向量的相关阵。若Xi和Xj的协方差cov(Xi，Xj)存在(i，j=1，2，…，p，则称R=(rij)p×p为X的相关阵，其中(10-81)

(6)均值向量和协方差阵的性质：

①设X，Y是随机向量，A，B是常数矩阵，则

E(AX)=AE(X)

E(AXB)=AE(X)B

D(AX)=AD(X)AT

cov(AX，BY)=Acov(X，Y)BT。

②若X，Y相互独立，则cov(X，Y)=0p×q；反之不一定成立。

③随机向量X=(X1，…，Xp)T的协方差阵D(X)=Σ是对称非负定矩阵。

④Σ=L2，其中L为非负定矩阵。10.2.4多元高斯分布

在一元统计中，若U~N(0，1)，则U的任意线性变换为X=σU+μ~N(μ，σ2)。利用这一性质，可以由标准高斯分布来定义一般高斯分布：若U~N(0，1)，则称X=σU+μ的分布为一般高斯分布，记为X~N(μ，σ2)。在此定义中，不必要求σ>0，当σ退化为0时仍有意义。把这种新的定义方式推广到多元情况，可以得出多元高斯分布的第一种定义。

多元高斯分布定义1设U=(U1，…，Uq)T为随机向量，U1，…，Uq相互独立且同N(0，1)分布；设μ为p维常数向量，A为p×q常数矩阵，则称X=AU+μ的分布为p元高斯分布，或称X为p维高斯随机向量，记为X~Np(μ，AAT)。

多元高斯分布定义2

若p维随机向量X的特征函数为ΦX(t)=exp[itTμ－(1/2)tTΣt](Σ≥0)，则称X服从p元高斯分布，记为X~Np(μ，Σ)。

②设X~Np(μ，Σ)，B为s×p维常数矩阵，d为s维常向量，令Z=BX+d，则Z~Ns(Bμ+d，BΣBT)。

③若X~Np(μ，Σ)，则E(X)=μ，D(X)=Σ。

④设X=(X1，…，Xp)T为p维随机向量，则X服从p元高斯分布等价于对任一p维实向量a，ξ=aTX是一维高斯随机向量。

多元高斯分布定义3：若p维随机向量X的任意线性组合均服从一元高斯分布，则称X为p维高斯随机向量。一元高斯随机变量的密度函数是

,该式又可改写为(10-83)作为一元高斯随机变量的推广，以下导出多维高斯随机向量的联合密度函数。多元高斯分布定义4

若p维随机向量X=(X1，X2，…，Xp)T的联合密度为(10-84)10.2.5随机过程

1.随机过程

设(Ω，，Ρ)是概率空间，T是给定的参数集，如果对于任意t∈T，都有一定义在(Ω，，Ρ)上的随机变量X(t，ω)与之对应，则称随机变量族{X(t，ω)，t∈T}为随机过程，简记为{X(t)，t∈T}或{Xt，t∈T}或XT。

随机过程{X(t，ω)，t∈T}是定义在T×Ω上的二元函数。当t固定时，X(t，ω)是(Ω，，Ρ)上的随机变量；当ω固定时，X(t，ω)是定义在T上的普通函数，称为随机过程X

T的一个样本函数或轨道(或现实)。通常把随机过程{X(t，ω)，t∈T}解释为一个物理系统。当t，ω固定时，X(t，ω)为一实数，表示系统在时刻t所处的状态。比如X(t)=x就称为时刻t系统(或过程)位于状态x。X(t，ω)的所有可能状态所构成的集合(即X(t，ω)的值域)称为状态空间或相空间，记为I。

参数t∈T表示时间，这正是将{X(t，ω)，t∈T}称为“过程”的原因。在实际问题中t∈T也可以表示别的量，若t表示高度，X(t，ω)表示高度为t处的温度，这样{X(t，ω)，t∈T}也是一个随机过程，所以一般也称随机过程为随机函数。对任一随机过程{X(t)，t∈T}，若知道了它的有限维分布函数族F，则该过程的全部统计特性就完全确定了。但在实际问题中，有时并不需要了解随机过程的全部统计特性。此外，要确定随机过程的全部有限维分布函数是一件很困难的事情。因此在多数应用中只限于给出随机过程的某些统计特性来代替F。这与概率论中用随机变量的数字特征代替分布函数一样。下面给出随机过程的数字特征的定义。

2.随机过程的均值函数

设已给随机过程XT={X(t)，t∈T}，对任意t∈T，若E[X(t)]存在，则称

mX(t)=E[X(t)]，t∈T

(10-85)

为随机过程XT的均值函数，mX(t)简记为m(t)。mX(t)是XT的一阶原点矩，表示随机过程在时刻t的状态的统计平均。

3.随机过程的协方差函数

设XT={X(t)，t∈T}是随机过程，对任意s，t∈T，若E{[X(s)－m(s)][X(t)－m(t)]}存在，则称

ΓX(s，t)=E{[X(s)－m(s)][X(t)－m(t)]}

(10-86)

为XT的自协方差函数，简称为协方差函数，ΓX(s，t)简记为Γ(s，t)；而称RX(s，t)=E[X(s)X(t)]为XT的自相关函数，简称相关函数，简记为R(s，t)。

XT的自协方差函数也记为CX(s，t)，即有

CX(s，t)=E{[X(s)－m(s)][X(t)－m(t)]}

(10-87)

自协方差函数ΓX(s，t)也是随机过程XT本身不同时