随机过程Ch2 随机过程的概念与基本类型

1、第二章第二章 随机过程的随机过程的概念与基本类型概念与基本类型 2.1 随机过程的一般概念随机过程的一般概念 设设( , F, ,P)为概率空间，为概率空间，T是参数集。若是参数集。若对任意对任意 t T ，有，有随机变量随机变量X(t, e)与之对与之对应，则称应，则称随机变量族随机变量族 X(t, e)， t T 是是( , F, ,P)上的上的随机过程随机过程，简记为，简记为 X(t)，t T 或或 Xt，t T 。 X(t)的所有可能的取值的集合称为的所有可能的取值的集合称为状态状态空间空间或或相空间相空间，记为，记为I。随机过程的例子随机过程的例子 以以X(t)表示某电话交换台在时间

2、段表示某电话交换台在时间段0,t内接到内接到的呼叫次数，则的呼叫次数，则X(t)，t0,)是随机过程；是随机过程； 以以X(t)表示某地区第表示某地区第t天的最高气温，则天的最高气温，则X(t)，t=0,1, 是随机过程；是随机过程； 以以X(t)表示某固定点处在时刻表示某固定点处在时刻t的海面相对于的海面相对于平均海平面的高度，则平均海平面的高度，则X(t)，t0,)是随是随机过程；机过程； X(t)=acos(t+)， t（- ,)，其中，其中a，是是常数，常数，是随机变量。则是随机变量。则X(t)，t （- ,)是随机过程是随机过程2.1 随机过程的基本概念 从数学上看，从数学上看，随机

3、过程随机过程 X(t, e)， t T 是定是定义在义在T上的二元函数上的二元函数。 对固定的对固定的t t，X(t, e) 是是( , F, ,P)上的上的随机变量；随机变量； 对固定的对固定的e，X(t, e) 是定义在是定义在T上的普通函数，上的普通函数，称为称为随机过程的一个随机过程的一个样本样本函数函数或或样本轨道样本轨道。2.1 随机过程的基本概念 按参数按参数T和状态空间和状态空间I分类分类 （1 1）T和和I都是离散的都是离散的 （2 2）T是连续的，是连续的，I是离散的是离散的 （3 3）T是离散的，是离散的，I是连续的是连续的 （4 4）T和和I都是连续的都是连续的 按按X

4、t 的概率特性分类的概率特性分类 正交增量过程正交增量过程 独立增量过程独立增量过程 马尔可夫过程马尔可夫过程 平稳随机过程平稳随机过程2.2 随机过程的分布和数字特征随机过程的分布和数字特征 随机过程随机过程XT=X(t)，t T 的有限维的有限维分分布函数族布函数族 其中其中 是是n维随机变量维随机变量 ( (X(t1), X (t2), , X (tn) )的联合分布函数的联合分布函数1,),(2121,1nTtttxxxFnnttnF F),(21,1nttxxxFn)(,.,)(),(1121,1nnnttxtXxtXPxxxFn 例：X(t)=tV,-t ,其中V为随机变量。 P(

5、V=1)=0.6,P(V=-1)=0.4, 求F1.5 (x), F2 (x), F1.5,2 (x1,x2), 2.2 随机过程的分布律和数字特征 有限维分布函数族的有限维分布函数族的性质性质 (1) (1)对称性对称性 其中其中 是是 的任意排列的任意排列 (2) (2)相容性相容性 m 0，Y, Z相相互独立，互独立，EY=EZ=0，DY=DZ= 2。求求X(t), t0的的均值函数和协方差函数。均值函数和协方差函数。解解 0)sin()cos( )sin()cos()()(EZtEYttZtYEtEXtmX )()( )()()()( )()()()(),(tXsXEtEXsEXtXs

6、XEtEXtXsEXsXEtsBX2.2 随机过程的分布律和数字特征 )cos()sin()sin()cos()cos()sin()sin( )(sin)cos()cos()()sin()sin( )()cos()sin( )()sin()cos()()cos()cos()sin()sin( )cos()sin( )sin()cos()cos()(cos()sin()cos()(sin()cos(2222222tststsDZtsEYEZtsDYtsZEtsYZEtsYZEtsYEtsZtsYZtsYZtsYtsEtZtYsZsYE)cos()sin()sin()cos()cos()sin()

7、sin( )(sin)cos()cos()()sin()sin( )()cos()sin( )()sin()cos()()cos()cos()sin()sin( )cos()sin( )sin()cos()cos()(cos()sin()cos()(sin()cos(2222222tststsDZtsEYEZtsDYtsZEtsYZEtsYZEtsYEtsZtsYZtsYZtsYtsEtZtYsZsYE)cos()sin()sin()cos()cos()sin()sin( )(sin)cos()cos()()sin()sin( )()cos()sin( )()sin()cos()()cos()

8、cos()sin()sin( )cos()sin( )sin()cos()cos()(cos()sin()cos()(sin()cos(2222222tststsDZtsEYEZtsDYtsZEtsYZEtsYZEtsYEtsZtsYZtsYZtsYtsEtZtYsZsYE)cos()sin()sin()cos()cos()sin()sin( )(sin)cos()cos()()sin()sin( )()cos()sin( )()sin()cos()()cos()cos()sin()sin( )cos()sin( )sin()cos()cos()(cos()sin()cos()(sin()co

9、s(2222222tststsDZtsEYEZtsDYtsZEtsYZEtsYZEtsYEtsZtsYZtsYZtsYtsEtZtYsZsYE2.2 随机过程的分布律和数字特征 设设X(t)=Y+Zt, t0，Y, Z N(0, 1) 求求X(t), t0的一、二维概率密度族。的一、二维概率密度族。解解 因因Y, Z为正态随机变量，则其线性组合为正态随机变量，则其线性组合X(t)也是正态随机变量，也是正态随机变量，di i . .ondistributiidenticaltindependen2222( )()0( )()1( , ) ( ) ( )( )( )() () 1 0 01XXXX

10、Xm tE YZtEYtEZD tD YZtDYt DZtBs tE X s X tms m tE YZsYZtE YZYs YZtZ ststst X(t)N(0, 1+t2)2.2 随机过程的分布律和数字特征 随机过程随机过程X(t), t 0的一维概率密度的一维概率密度222221()( )exp221exp,02(1)2 (1)txf xxttt2222( )()0( )()1( , ) ( ) ( )( )( )() () 1 0 01XXXXXm tE YZtEYtEZD tDYZtDYt DZtB s tE X s X tm s m tE YZsYZtEYZYs YZtZ sts

11、tst )1)(1 (1)()(),(),(22tssttDsDtsBtsXXXX 2.2 随机过程的分布律和数字特征 0, 1)1)(1 (21)1 (21exp)1)(1)(1 (21),(2222221221222221,tstxtsxxsxtsxxfts 随机过程随机过程X(t), t0的二维概率密度的二维概率密度2.2 随机过程的分布律和数字特征设设 X(t)，t T ， Y(t)，t T 是两个随是两个随机过程，二阶矩函数存在，定义机过程，二阶矩函数存在，定义 二阶矩过程二阶矩过程 一、二阶矩函数存在一、二阶矩函数存在 定义定义2.4 互互协方差函数协方差函数 互相关函数互相关函数

12、 显然有关系式显然有关系式TtstEYtYsEXsXEtsBXY, )()()()(),(TtstYsXEtsRXY, , )()(),(TtstmsmtsRtsBYXXYXY, , )()(),(),(2.2 随机过程的分布律和数字特征 设设X(t)为信号过程，为信号过程，Y(t)为噪声过程，为噪声过程，W(t)=X(t)+Y(t)，求求W(t)的的均值函数和相均值函数和相关函数。关函数。解解)()()()()()(),()()()()()()()()(tYtXsYsXEtWsWEtsRtmtmtEYtEXtYtXEtEWtmWYXW2.2 随机过程的分布律和数字特征( )( )( ) (

13、) ( )( )( ) ( )( )( )( ) (t) ( )( ) ( ) ( )( , )( , )( , )( , )XXYYXYE X s X tX s Y tY s X tY s Y tE X s X tE X s YE Y s X tE Y s Y tRs tRs tRs tR s t2.3 复随机过程复随机过程 定义定义2.5设设 Xt，t T ， Yt，t T 是取是取实值的两个随机过程，对实值的两个随机过程，对t T ，Zt = Xt + iYt，则称，则称 Zt，t T 是是复随机过程复随机过程。 均值函数均值函数 方差函数方差函数)()()(timtmiEYEXEZtm

14、YXtttZ)()( | )(|)(2tmZtmZEtmZEtDZtZtZtZ2.3 复随机过程 相关函数相关函数 协方差函数协方差函数 显然有关系式显然有关系式tsZZZEtsR),()()(),(tmZsmZEtsBZtZsZ)()(),(),(tmsmtsRtsBZZZZ2.3 复随机过程设设 Xt，t T ， Yt，t T 是两个复随机是两个复随机过程，定义过程，定义 互相关函数互相关函数 互协方差函数互协方差函数 显然有关系式显然有关系式tsXYYXEtsR),()()(),(tmYsmXEtsBYtXsXY)()(),(),(tmsmtsRtsBYXXYXY2.3 复随机过程 复随

15、机过程的复随机过程的协方差函数协方差函数具有具有性质性质(1)共轭对称性共轭对称性 (2)非负定性非负定性1, 2 , 1,0),(1,nnICaTtaattBiijinjiji),(),(stBtsB2.3 复随机过程 设设复随机过程复随机过程X1, X2, , Xn独立，独立，w1, w2, , wn为参数，为参数，求求 Zt, t 0 的均值函数的均值函数m(t)和相关函数和相关函数R(s, t) 解解), 0(, 0,21kknktiwktNXteXZk 0 )(11nkktiwnktiwktEXeeXEEZtmkk2.3 复随机过程 11(),1()21()21( , )kkklkk

16、nniw siw tStkkkkni w s w tklk lniws tkkniws tkkR s tE Z ZEX eX eE X X eE Xee2.4 几种重要的随机过程几种重要的随机过程 定义定义2.6设设 X(t)，t T 是随机过程，且是随机过程，且EX(t)=0, EX2(t) + ，若对任意的若对任意的t1 t2 t3 t4 T,有有E(X(t2)- -X(t1)(X(t4)- -X(t3)=0，则则称称 X(t)，t T 为为正交增量过程正交增量过程。不相关不相关 t t1 1 t t2 2 t t3 3 t t4 4定理：定理：设设T=a,b , 规定规定X(a)=0,若

17、若 Xt，t T 是是正交增量过程，则正交增量过程，则),(min(),(),(2tstsRtsBXXX 2.4 几种重要的随机过程证证:对于对于astb 同理对于同理对于a t s b , 有有于是于是)()(0)()()()()()a ()()()()()(),()()(),(),(222sssXEsXtXaXsXEXtXaXsXEtXsXEtsRtmsmtsRtsBXXXXXXX)(),(2ttsBXX ),(min(),(),(2tstsRtsBXXX )()(0)()()()()()()()()()()()()()(),()()(),(),(222ssaXsXEsXtXaXsXEaX

18、sXsXtXaXsXEtXsXEtsRtmsmtsRtsBXXXXXXX2.4 几种重要的随机过程 定义定义2.7设设 X(t)，t T 是随机过程，是随机过程，对对任意正整数任意正整数n和和t1t2tn T, 随机变量随机变量X(t2)- -X(t1)，X(t3)- -X(t2), , X(tn)- -X(t tn n-1-1)是相互独立的，是相互独立的，则称则称 X(t)，t T 是是独立独立增量过程增量过程或或可加过程可加过程。 定理：定理：若若 Xt，t T 是独立是独立增量过程，增量过程，且且EX(t)=0，EX2(t)+ ，则则 Xt，t T 是是正交正交增量过程。增量过程。 2.

19、4 几种重要的随机过程事实上，对事实上，对t1t2 t3t4 T,由独立增量性，由独立增量性，有有E(X(t2)- -X(t1)(X(t4)- -X(t3)= EX(t2)- -X(t1)EX(t4)- -X(t3) =02.4 几种重要的随机过程 定义定义2.8设设X(t), t T是独立是独立增量过程增量过程，若任意若任意st, 随机变量随机变量X(t)- -X(s)的分布仅的分布仅依赖于依赖于 t- -s，则称，则称X(t), t T是是平稳独立平稳独立增量过程增量过程。 维纳过程和泊松过程是维纳过程和泊松过程是平稳独立平稳独立增量过程增量过程 定义定义2.9 设设 X(t)，t T 为

20、随机过程，为随机过程，若对任意正整数若对任意正整数n及及t1 t20，且条件分布且条件分布PX(tn) xn|X(t1)=x1, X(tn- -1)=xn- -1= PX(tn) xn|X(tn- -1)=xn- -1，则称则称 X(t)，t T 为为马尔可夫过程马尔可夫过程。若若t1,t2,tn- -2表示过去，表示过去，tn- -1表示现在，表示现在，tn表示将来，马尔可夫过程表明：在已知表示将来，马尔可夫过程表明：在已知现在状态的条件下，将来所处的状态与现在状态的条件下，将来所处的状态与过去状态无关。过去状态无关。 定义定义2.12 设设 X(t)，t T 是是随机过程，随机过程，对任意

21、常数对任意常数 和正整数和正整数n， t1,t2, tn T, , t1+ + , t2+ + ,tn+ + T， 若若(X(t1), X(t2), , X(tn)与与 (X(t1+ + ), X(t2+ + ), X(tn+ + ) 有相同的联合分布，则称有相同的联合分布，则称 X(t)，t T 为为严平稳过程严平稳过程，也称，也称狭义平稳过程狭义平稳过程。6.1 平稳平稳随机过程的概念随机过程的概念 定义定义2. 13 设设 X(t)，t T 是是随机过程，随机过程，并满足：并满足：(1)(1)X(t)，t T 是二阶矩过程；是二阶矩过程；(2)(2)对任意对任意t T ，mX(t)= =

22、EX(t)= =常数；常数；(3)(3)对任意对任意s, t T ， RX(s, t)= =EX(s)X(t)= =RX(t- -s)， 则称则称 X(t)，t T 为为宽平稳过程宽平稳过程，也称，也称广义平稳过程广义平稳过程，简称，简称平稳过程平稳过程。 若若T为离散集，为离散集，称称平稳过程平稳过程 Xn，n T 为为平稳序列平稳序列。2.4 几种重要的随机过程 定义定义2.10设设 X(t)，t T 是随机过程，是随机过程，对任意对任意正整数正整数n和和t1t2tn T, ( (X(t1),X(t2), , , X(tn)是是n n维正态分布随机变量，维正态分布随机变量，则称则称 X(t

23、)，t T 是是正态正态过程过程或或高斯过程高斯过程。2.4 几种重要的随机过程 定义定义2.11设设W(t), - - t 0 则称则称W(t), - - t + 为为维纳过程维纳过程，或，或布布朗运动朗运动。2.4 几种重要的随机过程定理：定理：设设W(t), - - t + 是参数为是参数为 2的的维纳过程，则维纳过程，则(1)对任意对任意t (- - , + ), W(t) N(0, 2|t|)(2)对任意对任意- - a s, t + , ,E(W(s)- -W(a) (W(t)- -W(a)= 2min(s- -a, t- -a)RW(s, t)= 2min(s, t)证证 (1)

24、由定义，显然成立。由定义，显然成立。2.4 几种重要的随机过程(2)不妨设不妨设s t，则则E(W(s)- -W(a) (W(t)- -W(a)=E(W(s)- -W(a) (W(t)- -W(s)+W(s)- -W(a)=E(W(s)- -W(a) (W(t)- -W(s) +E(W(s)- -W(a)2=EW(s)- -W(a)EW(t)- -W(s)+DW(s)- -W(a)= 2(s- -a)2.4 几种重要的随机过程若若 t s ，则则E(W(s)- -W(a) (W(t)- -W(a)= 2(t- -a)，所以所以E(W(s)- -W(a) (W(t)- -W(a)= 2min(s

25、- -a,t- -a)若取若取a = 0，则则RW(s, t)=EW(s)W(t)=E(W(s)- -W(0)(W(t)- -W(0)= 2min(s, t)注：注：维纳过程也是正交增量过程维纳过程也是正交增量过程 (EX(t)=0, EX2(t)= 2|t|+ )， 还是马尔可夫过程还是马尔可夫过程6.2 6.2 联合平稳随机过程联合平稳随机过程时间增量时间平移正交增量过程 EX2EX=0，EX2宽平稳随机过程独立增量过程严平稳随机过程平稳独立增量过程维纳过程泊凇过程高斯过程增量服从正态分布增量服从泊凇分布有限维联合变量服从正态分布马尔可夫过程时间记忆一维随机变量一维随机变量 e X(e)二

26、维随机变量二维随机变量 e （X(e)， Y(e)）。n维随机变量维随机变量 e （X1(e)， X2(e)，,Xn(e)）随机序列 e （X1(e)， X2(e)，, ）随机过程 e （X(t,e)， tT ）随机变量族随机变量族 (t ,e) xt(e)=x(t, e) x x (ti,e) t1 t2 t3随机变量的数字特征随机变量的数字特征数学期望的重要性质数学期望的重要性质: : (1)(1)设设a,b,ca,b,c是常数是常数, ,则有则有E(cE(c)=c, )=c, E(aX+bYE(aX+bY)=)=aEX+bEYaEX+bEY; ; (2)(2)设设X X, ,Y Y是相互

27、独立的随机变量是相互独立的随机变量, ,则有则有E(XY)=E(X)E(Y);E(XY)=E(X)E(Y); (3)(3)( (单调收敛定理单调收敛定理) )若若0X0Xn nX,X,则则 EXEXn n=EX;=EX; (4)(4)( (FatouFatou引理引理) )若若X Xn n0,0,则则 E( E( X Xn n) ) E(XE(Xn n) ) E(XE(Xn n)E)E( ( X Xn n).). limnlimnlimnlimnlimn注注: : 设设R R是实数集是实数集, ,若存在一个实数若存在一个实数,对任意的正数对任意的正数有有 (1)(1) R R中的元素中的元素x

28、 x满足满足-x x的只有有限个的只有有限个( (+ +, ,);); (2)(2) R R中的元素中的元素x x满足满足+x x的有无穷多个的有无穷多个( (- -, ,),),则称则称是是R R的的下下( (上上) )极限极限. .定义定义1.81.8. . 设设X X是随机变量是随机变量, , 若若EXEX2 2, ,则称则称E(X-EX)E(X-EX)2 2为为X X 的的方差方差, ,记为记为D(X)D(X)或或Var(XVar(X).).随机变量的数字特征随机变量的数字特征方差及二阶矩的重要性质方差及二阶矩的重要性质: : (1)(1)设设c c是常数是常数, ,则则D(cD(c)

29、=0, )=0, D(cXD(cX)=c)=c2 2D(X);D(X); (2)(2)设设a,ba,b是常数是常数, ,随机变量随机变量X,YX,Y独立独立, ,则则D(aX+bYD(aX+bY)=a)=a2 2D(X)D(X) +b +b2 2D(Y);D(Y); (3)(3)D(X)=0 XD(X)=0 X以概率以概率1 1取常数取常数c(=E(X),c(=E(X),即即PX=c=1;PX=c=1; (4)(4)( (SchwarzSchwarz不等式不等式) )若若EXEX2 2,EY,EY2 2, ,则则E(XY)E(XY)2 2 EXEX2 2EYEY2 2. . 随机变量的随机变量

30、的方差反映随机变量取值的离散程度方差反映随机变量取值的离散程度. .定义定义1.91.9. . 设设X,YX,Y是随机变量是随机变量,EX,EX2 2,EY,EY2 2, ,则称则称 EX-E(X)Y-E(Y)EX-E(X)Y-E(Y)为为X X与与Y Y的协方差的协方差, , 记为记为B BXYXY或或CovCov (X,Y). (X,Y). 称称XYXY=B=BXYXY/( )/( )为为X X、Y Y的的相关系数相关系数. . 若若XYXY=0,=0,则称则称X,YX,Y不相关不相关. .XYXY反映反映X,YX,Y之间的线性相关之间的线性相关 DYDX随机变量的数字特征随机变量的数字特

31、征程度的大小程度的大小. . XYXY是一个无量纲的量是一个无量纲的量; |; |XYXY|1. |1. 对任意两个随机变量对任意两个随机变量X X和和Y,Y,成立等式成立等式: : D(X+Y)=D(X)+D(Y)+2Cov(X,Y). D(X+Y)=D(X)+D(Y)+2Cov(X,Y). 将将Cov(X,YCov(X,Y) )的定义式的定义式: :Cov(X,YCov(X,Y)=EX-E(X)Y-E(Y)=EX-E(X)Y-E(Y) 展开展开, ,有有Cov(X,YCov(X,Y)=E(XY)-E(X)E(Y)()=E(XY)-E(X)E(Y)(协方差的计算式协方差的计算式).).协方差

32、具有性质协方差具有性质: : (1)(1) Cov(X,YCov(X,Y)=)=Cov(Y,XCov(Y,X);); (2)(2) 设设a,ba,b是常数是常数, ,则则Cov(aX,bYCov(aX,bY)=)=abCov(X,YabCov(X,Y);); (3)(3) Cov(X Cov(X1 1+X+X2 2,Y)=Cov(X,Y)=Cov(X1 1,Y)+Cov(X,Y)+Cov(X2 2,Y).,Y). k k阶矩阶矩. . 设设X X和和Y Y是随机变量是随机变量. .若若E(XE(Xk k),k),k=1,2,=1,2,存在存在, ,则则 称之为称之为X X的的k k阶原点矩阶原

33、点矩( (简称简称k k阶矩阶矩););若若EX-EX-E(X)E(X)k k,k,k= = 1,2, 1,2,存在存在, ,则称之为则称之为X X的的k k阶中心矩阶中心矩. .分布函数分布函数, ,概率密度函数的函数曲线概率密度函数的函数曲线 均匀分布的分布函数与概率密度均匀分布的分布函数与概率密度: : F(xF(x)=)= 正态分布的分布函数及其概率密度正态分布的分布函数及其概率密度: : 设连续型随机变量设连续型随机变量X X的概率密度为的概率密度为f(xf(x)= ,)= , - -x x, ,其中其中,(,(0)0)为常数为常数, ,则称则称X X服从参数服从参数 为为,的正态的

34、正态( (或高斯或高斯GaossGaoss) )分布分布, ,记为记为X XN(,N(,).). 特别特别, ,当当=0,=1=0,=1时时, ,称称X X服从标准正态分布服从标准正态分布. . F(xF(x)= .)= .222)(21xef(x)xab10abax,x,xa a, ,axaxb b, ,xbxbF(x)xab1xtdte222)(21F(x)xo0.5f(x)xo-+特征函数和母函数特征函数和母函数1.4 1.4 特征函数和母函数特征函数和母函数 特征函数特征函数是研究随机变量分布律的一个重要工具是研究随机变量分布律的一个重要工具. .由于由于 分布律与特征函数之间存在一一

35、对应关系分布律与特征函数之间存在一一对应关系, ,因此在得知因此在得知 随机变量的特征函数之后随机变量的特征函数之后, ,就可以知道它的分布律就可以知道它的分布律. . 用用 特征函数求分布律比直接求分布律容易得多特征函数求分布律比直接求分布律容易得多, ,而且特征而且特征 函数具有良好的分析性质函数具有良好的分析性质. .定义定义1.101.10 设随机变量设随机变量X X的分布函数为的分布函数为F(xF(x),),则称则称 g(tg(t)=)=E(eE(eitXitX)= , -)= , -x x+ 为为X X的的特征函数特征函数. . 特征函数特征函数g(tg(t) )是实变量是实变量t

36、 t的复值函数的复值函数, ,由于由于| |e eitXitX|=1, |=1, 故故 随机变量的特征函数总存在随机变量的特征函数总存在. . 当当X X是离散型随机变量是离散型随机变量, ,分布列分布列p pk k=P(X=P(X=x xk k),k),k=1,2,=1,2,时时, ,)(xdFeitx特征函数特征函数 g(tg(t)= ;)= ; 当当X X是连续型随机变量是连续型随机变量, ,概率密度为概率密度为f(xf(x) )时时, , g(tg(t)= .)= . 随机变量的特征函数具有性质随机变量的特征函数具有性质: : (1)(1)( (有界性有界性).). 设设g(tg(t)

37、 )是特征函数是特征函数, ,则则g(0)=1;|g(t)|1;g(-t)=g(0)=1;|g(t)|1;g(-t)=g(tg(t).). (2)(2)( (一致连续性一致连续性).). 特征函数特征函数g(tg(t) )在在(-,+)(-,+)上一致连续上一致连续. . (3)(3)( (非负定性非负定性).). g(tg(t) )是非负定函数是非负定函数. . 即对任意的正整数即对任意的正整数n n及任意实数及任意实数t t1 1, , t t2 2, , ,t tn n和复数和复数z z1 1,z,z2 2, , ,z zn n有有 0.0.dxxfeitx)(1kkitxpeklklk

38、lkzzttg1,)(特征函数特征函数证明证明: : = = =E =E =E =E 0. 0. (4) (4) 若若X X1 1,X,X2 2, , ,X Xn n是相互独立的随机变量是相互独立的随机变量, ,则则X=XX=X1 1+X+X2 2+ + + +X Xn n的特征函数的特征函数g(tg(t)=g)=g1 1(t)(t)g g2 2(t)(t)g gn n(t(t).).其中其中g gi i(t(t) ), , i=1,2, i=1,2,n,n是随机变量是随机变量X Xi i的特征函数的特征函数. .证明证明: : 因为因为X X1 1,X,X2 2, , ,X Xn n相互独立

39、相互独立, ,所以所以 也相互独立也相互独立. . 因而因而 g(tg(t)=)=EeEeitXitX=E =E( )=E =E( )lklklkzzttg1,)(lknknlXttizzeElk 11)(11 nknllXitkXitzezelk21|nkkXitzeknitXitXitXeee,21)(21nXXXitenitXitXitXeee21特征函数特征函数 =E E =E E E E =g =g1 1(t)(t)g g2 2(t)(t)g gn n(t(t).). (5)(5) 若随机变量若随机变量X X的的n n阶原点矩阶原点矩EXEXn n存在存在, ,则则X X的特征函数的

40、特征函数 g(tg(t) )的的n n阶导数存在阶导数存在, ,且当且当knkn时时, ,有有g g(k)(k)(0)=(0)=i ik kEXEXk k. . (6)(6)( (惟一性惟一性). ). 随机变量的分布函数由其特征函数惟一确定随机变量的分布函数由其特征函数惟一确定( (相互相互).).当当X X为连续型随机变量为连续型随机变量, ,且有且有F(xF(x)=)=f(xf(x) )及及 , ,则则 如何求如何求指数分布的指数分布的g(tg(t) )? ?设设f(xf(x)= ,)= ,求求g(tg(t).).dttg| )(|dxxfetgitx)()(dttgexfitx)(21

41、)(ee-x-x,x0,x00, x0, x0 01itXenitXe2itXe( (LaplaceLaplace变换变换) )特征函数特征函数 因为因为, ,g(tg(t)=)=EeEeitXitX= = e eitxitxf(x)dxf(x)dx= = e eitxitxee-x-xdxdx = = e e-x-x(costx+isintx)dx(costx+isintx)dx = = e e-x-xcostxdx+icostxdx+i e e-x-xsintxdxsintxdx = + = +ii =(1- ) =(1- )-1-1. . 对对n n维随机变量也可定义特征函数维随机变量也

42、可定义特征函数, , 且有类似于一维随且有类似于一维随 机变量的特征函数的性质机变量的特征函数的性质. .定义定义1.11 1.11 设设X=(XX=(X1 1,X,X2 2, , ,X Xn n) )是是n n维随机量维随机量,t=(t,t=(t1 1,t,t2 2, , , t tn n)R)Rn n, ,则称则称g(tg(t)=g(t)=g(t1 1,t,t2 2, , ,t tn n)=E( )=E( )为为n n维随维随 机变量机变量X X的特征函数的特征函数. .nkkkXtie1000022tt222tit特征函数特征函数例例1.11.1 设设X X服从服从B(n,pB(n,p)

43、,),求求X X的特征函数的特征函数g(tg(t) )及及EX,EXEX,EX2 2和和DX.DX.解解: : X X的分布列为的分布列为:P(X=k)= :P(X=k)= p pk kq qn-kn-k,q,q=1-p,k=0,1,2,=1-p,k=0,1,2,n.,n. g(tg(t)= )= e eitkitk p pk kq qn-kn-k= (= (pepeitit) )k kq qn-kn-k=(=(pepeitit+q)+q)n n. . 由性质由性质(5)(5)知知 EX=-ig(0)=-i (EX=-ig(0)=-i (pepeitit+q)+q)n n| |t t=0=0=

44、 =npnp ; ; EX EX2 2=(-i)=(-i)2 2g(0)=(-i)g(0)=(-i)2 2 ( (pepeitit+q)+q)n n| |t t=0=0=npq+n=npq+n2 2p p2 2. . DX=EX DX=EX2 2-(EX)-(EX)2 2= =npqnpq. .例例1.21.2 设设X XN(0,1),N(0,1),求求X X的特征函数的特征函数g(tg(t).).解解: : g(tg(t)= .)= .由由| |=|x| ,| |=|x| , 知知, , 对对g(tg(t) )的表出式可在积分号下求导的表出式可在积分号下求导. . 求导得求导得: :knCk

45、nCnk 0nk 0knCdtd22dtddxexitx222122xitxixe22xedxexx22|21特征函数特征函数 g(tg(t)= =)= = =- - =- =- - =-t tg(tg(t).). 于是得微分方程于是得微分方程: : g(t)+tg(t)+tg(tg(t)=0.)=0. 这是一个可分离变量的方程这是一个可分离变量的方程, ,故有故有: =-: =-tdttdt. . 两边积分得两边积分得: :lng(tlng(t)=-t)=-t2 2/2+c,/2+c,因而通解因而通解g(tg(t)= .)= . 由于由于g(0)=1,g(0)=1,所以所以c=0. c=0.

46、 于是于是X X的特征函数的特征函数: :g(tg(t)= .)= .例例1.31.3 ( (特征函数具有线性性特征函数具有线性性) ) 设随机变量设随机变量X X的特征函数为的特征函数为g gX X(t),Y(t),Y= =aX+baX+b, ,其中其中a a、b b为任为任 意实数意实数. .证明证明随机变量随机变量Y Y的特征函数的特征函数g gY Y(t(t)=)=e eitbitbg gX X(at(at).).dxixexitx2221dxetxitx222)(222xitxdeei222xitxei)()(tgtdgcte221221te特征函数特征函数证明证明: : g gY

47、Y(t(t)=)=EeEeit(aX+bit(aX+b) )=EeEei(at)Xi(at)Xe eibtibt=e eibtibtEeEei(at)Xi(at)X = =e eitbitbg gX X(at(at).).例例1.41.4 设随机变量设随机变量X XN(a,N(a,2 2),),求求Y=Y=X+aX+a的特征函数的特征函数. .解解: : 设设X XN(0,1),N(0,1),则由则由例例1.21.2知知X X的特征函数的特征函数g gX X(t(t)= .)= . 令令Y=Y=X+aX+a, ,则则Y YN(a,N(a,2 2).).由由例例1.31.3知知,Y,Y的特征函数

48、为的特征函数为 g gY Y(t(t)=)=e eiatiatg gX X(t(t)=)=e eiatiat = .= .例例1.51.5 设随机变量设随机变量X X服从参数为服从参数为的泊松分布的泊松分布, ,求求X X的特征的特征 函数函数. .解解: : 因为因为PX=k= ,k=0,1,2,PX=k= ,k=0,1,2, ,故故g(tg(t)= )= e eitkitk = =e e- = . = .221teekk!ekk!0k0!)(kkitke)1(itee222te222tiate特征函数特征函数例例1.61.6 证证若随机变量若随机变量X X的的n n阶原点矩阶原点矩EXEX

49、n n存在存在, ,则则X X的特征函的特征函 数数g(tg(t) )的的n n阶导数存在阶导数存在, ,且当且当knkn时有时有g g(k)(k)(0)=i(0)=ik kEXEXk k. .(5)(5)证明证明: : X X的的n n阶矩存在阶矩存在, , X, , X的特征函的特征函数数 g gX X(t(t)= ,)= ,由于由于 =|=|x|x|k k, , 所以有所以有 = = = = . = = . 于是于是得得 即即g g(k)(k)(0)=(0)=i ik kEXEXk k. . 在在常见随机变量分布常见随机变量分布表表右栏右栏中中, ,给出了相应的特征函数给出了相应的特征函

50、数. .例例1.7 1.7 求求X X2 2分布的特征函数分布的特征函数, ,数学期望和方差数学期望和方差. .解解: :首先首先: :设随机变量设随机变量X XN(0,1),N(0,1),求求X X2 2的特征函数的特征函数. .由定义由定义)(|xdFxXk)(xdFeXitxitxkkedtd)()(tgkX)(xdFedtdXitxkk)(xdFedtdXitxkk)(xdFexiXitxkk)()() 0()(kkXkkkXXEixdFxig特征函数特征函数有有: : = = = = = = = = . = = . 接着接着: :求求X X2 2分布的特征函数分布的特征函数, ,数学

51、期望和方差数学期望和方差. . 设设X X1 1,X,X2 2, , ,X Xn n相互独立且同服从标准正态分布相互独立且同服从标准正态分布N(0,1), N(0,1), 则则X X2 2= = 服从自由度为服从自由度为n n的的卡方分布卡方分布. .由上证已知由上证已知 的特征函数为的特征函数为 ,j=1,2,j=1,2,n. X,n. X1 1,X,X2 2, , ,X Xn n相互相互独立独立, , 也相互独立也相互独立. . 由特征函数由特征函数性质性质4 4得得X X2 2的特征函数的特征函数: :dxedxeeeEtgxitxitxitXX02)21(2222222221)()(x

52、itdeitxit21212202)21(2dzeitz0222122222122it21)21 ( itniiX122jX21)21 ( it22221,nXXX特征函数特征函数 由由 的表达式的表达式, ,易知易知: : , ; , ; , . , .再由特征函数的再由特征函数的性质性质5 5, ,便得便得X X E( E(X X2 2)=g(0)/i=in/i=n;)=g(0)/i=in/i=n; E( E(X X2 2) )2 2=g(0)/i=g(0)/i2 2=i=i2 2n(n+2)/in(n+2)/i2 2=n(n+2), =n(n+2), 从而有从而有 D(D(X X2 2)

53、=E()=E(X X2 2) )2 2-E(-E(X X2 2)2 2=n(n+2)-n=n(n+2)-n2 2=2n.=2n.njnXittgj12)21 ()(212)21 (nitin222)21)(2()(nitnnit)2()0(2nniin)0(. .2Xg2Xg(t)(t)2Xg 2Xg 2Xg2Xg概率母函数概率母函数 母函数母函数是研究非负整数值随机变量非常方便的工具是研究非负整数值随机变量非常方便的工具. .定义定义1.121.12 设设X X是非负整数值随机变量是非负整数值随机变量, ,分布列分布列 p pk k=P(X=k), k=0,1,2,=P(X=k), k=0,

54、1,2, 当当|s|1|s|1时时, , 则称则称P(sP(s)=)=E(sE(sX X)= )= p pk ks sk k为为X X的的概率母函数概率母函数, ,简称简称母函数母函数. . 母函数具有以下性质母函数具有以下性质: : (1)(1)非负整数值随机变量的分布列由其母函数唯一确定非负整数值随机变量的分布列由其母函数唯一确定. . (2)(2)设设P(sP(s) )是是X X的母函数的母函数. . 若若EXEX存在存在, ,则则EX=P(1);EX=P(1); 若若DXDX存在存在, ,则则DX=P(1)+P(1)-P(1)DX=P(1)+P(1)-P(1)2 2. . (3)(3)

55、独立随机变量之和的母函数等于母函数之积独立随机变量之和的母函数等于母函数之积. . (4)(4)若若X X1 1,X,X2 2, ,是相互独立且同分布的非负整数值随机是相互独立且同分布的非负整数值随机 变量变量, N, N是与是与X X1 1,X,X2 2, ,独立的非负整数值随机变量独立的非负整数值随机变量, , 则则 Y= Y= X Xk k的母函数的母函数H(sH(s)=)=G(P(sG(P(s),),其中其中G(s),P(sG(s),P(s) )分别分别0kNk 1概率母函数概率母函数是是N,XN,X1 1的母函数的母函数. .证明证明: : (1)(1)P(s)= P(s)= p p

56、k ks sk k= = p pk ks sk k+ + p pk ks sk k,n,n=0,1,=0,1,. . 上式两边对上式两边对s s求求n n阶导数阶导数, ,得得 P P(n)(n)(s(s)=)=n!pn!pn n+ k(k-1)+ k(k-1)(k-n+1)p(k-n+1)pk ks sk-nk-n. . 令令s=0,s=0,则则P P(n)(n)(0)=(0)=n!pn!pn n , ,故故p pn n=P=P(n)(n)(0)/n!, n=0,1,2,(0)/n!, n=0,1,2,. . (2)(2)由由P(sP(s)= )= p pk ks sk k知知, ,P(sP

57、(s)= kp)= kpk ks sk-1k-1. . 令令s1,s1,得得 EX= EX= kpkpk k=P(1).=P(1). 又又由由P(sP(s)= k(k-1)p)= k(k-1)pk ks sk-2k-2= k= k2 2p pk ks sk-2k-2- - kp kpk ks sk-2k-2知知, , 当当s1s1时时,P(1)=EX,P(1)=EX2 2-EX .-EX .但但 DX=EXDX=EX2 2-(EX)-(EX)2 2, ,所以有所以有 DX=P(1)+EX-(EX)DX=P(1)+EX-(EX)2 2=P(1)+P(1)-=P(1)+P(1)-P(1)P(1)2

58、 2. .0knk 01nk1nk0k1k1k1k1k1k概率母函数概率母函数 (3)(3)设随机变量设随机变量X=XX=X1 1+X+X2 2+ + +X Xn n, , 且且X X1 1,X,X2 2, , ,X Xn n相互相互独立独立. .因而因而 也相互独立也相互独立. . 由数学期望重由数学期望重要性质要性质(2)(2)即知即知 P PX X(s(s)=)=E(sE(sX X)=E( )=E( ) =E( ) =E( ) =E( ) =E( )E( )E( )E( )E( ) = (s) (s) = (s) (s) (s). (s). (4)(4)H(s)= P(Y=H(s)= P

59、(Y=k)sk)sk k= P(Y=K, N= P(Y=K, N=t)st)sk k = P(N= = P(N=t)P(Yt)P(Y= =k)sk)sk k = P(N=t) P(Y= P(N=t) P(Y=k)sk)sk knXXXsss,21nXXXsss21nXXXs211Xs2XsnXs1XP2XPnXP0k0k0k0k0t0t0t概率母函数概率母函数 = P(N=t) P( = P(N=t) P( X Xj j= =k)sk)sk k = P(N= P(N=t)P(s)t)P(s)t t= =GP(sGP(s). ). 由由EXEX1 1=P(1),EY=H(1),EN=G(1)=P

60、(1),EY=H(1),EN=G(1)及及H(sH(s)=)=GP(sGP(s)知知 H(sH(s)=)=GP(s)P(sGP(s)P(s)=)=P(s)GP(sP(s)GP(s) 令令s1, s1, 得得H(1)=P(1)GP(1),H(1)=P(1)GP(1),但但P(1)=E( )=E(1)P(1)=E( )=E(1) =1, =1, 故有故有 EY=ENEY=ENEXEX1 1( ().).例例1.81.8 设商店在一天的顾客数设商店在一天的顾客数N N服从参数服从参数=1000=1000人的泊人的泊 松分布松分布, ,而每位顾客所花的钱而每位顾客所花的钱X Xi i服从服从N(100