概率论与数理统计学习课件

1、概率论与数理统计 第一章 概率论的基本概念 1. 2. ; ; 3. 01;1 1 1 2 a n seas ab ab ab ab a n fa n p ap s abp abp ap b p ap a abp ap 样本空间 随机事件 事件的关系： 事件的运算： 频率： 概率的定义：满足 当时， 概率的性质： 当时 12 1 1 3 = 4. | , ()(|) ()()(|), (|) ()(|) 5. n n ii jjin j jj j b p abp ap bp ab p ab p bap abp a p ba p a bbbs p b p a b p ap bp a bp ba

2、p bp a b 条件概率： 当为 的一划分时， 事件独立性 古典概型 第二章 随机变量及其分布 随机变量 概率分布函数 离散型随机变量 连续型随机变量 随机变量的函数 e s x x=x(e)为s上的单值函数，x为实数 * * 本质：将试验结果数量化本质：将试验结果数量化 随机变量随机变量 设随机试验的样本空间为s=e，如果对于每一 个样本点 ，均有唯一的实数 与之 对应，称 为样本空间s上的随机变量。 rx se )(exx 1) 它是一个变量 2) 它的取值随试验结果而改变 3）随机变量在某一范围内取值，表示一个随机事件 随机变量的特征: 随机变量的分布函数 , () xx p xxx随

3、机变量对实变量应为 的函数 , ( )() xx f xp xxx 随机变量对任意实数称函数 为 的概率分布函数，简分 义： 称 定 布函数。 ( )f x 的几何意义： x x ( )f x 的性质： 一个普通的函数！一个普通的函数！ 一个随机事件一个随机事件 离散型随机变量及其分布 定义：取值可数(可列)的随机变量为离散量离散量 离散量的概率分布(分布律) 1 0 ,1 ii i pp 样本空间s x=x1，x=x2，x=xn， 由于样本点两两不相容 11 1( )() ii ii p sp xxp 1、写出可能取值即写出了样本点 2、写出相应的概率即写出了每一个样本点出现的概率 p 1

4、x 2 x i x 1 p 2 p i p x # # 概率分布 三个主要的离散型随机变量三个主要的离散型随机变量 01(p) 分布 二项分布 x pq 01 p 样本空间中只 有两个样本点 (p+q=1) 背景样本空间只有两个样本点的情况,都可以用0-1 分布分布来 描述。 设a在n重贝努利试验中发生x次，则 并称x服从参数为p的二项分布二项分布，记 ()(1) 01 kkn k n p xkc ppkn ， ， ， 0 1() 1 n nkkn k n k pqc p qqp 注：其中 ),(pnbx 泊松分布(poisson分布) 若随机变量x的概率分布律为 称x服从参数为的泊松分布泊松

5、分布，记 () 0 ,1, 2 , 0 ! k e pxkk k ， ()x 连续型随机变量及其概率密度 定义： 对于随机变量x的分布函数 若 存在非负的函数 使对于任意实数 有： (),fx ( ),f x , x ( )f x其中 称为x的概率密度函数，简称概率密度概率密度。 则称x为连续型随机变量， ( )( ) x f xf x dx 与物理学中的质量线密度的定义相类似 ( )f x 的性质： 1) ( )0f x + 2) ( )1f x dx 2 1 1221 12 () ( ) ()0 x x xx xx p xxxf t dtp xa 3) 对于任意的实数 ， 4) ( ) (

6、 )( )f xx f xf x在连续点 ， ( )f x即在的连续点 ( )f xxx表示 落在点 附近的概率的多少 ( )yf x 1 x 2 x 1面积为 12 p xxx x xxxxp x xfxxf dx xdf xf xx )()()()( )( limlim 00 三个重要的连续量 均匀分布(一维几何概型) 定义：x具有概率密度 称x在区间(a,b)上服从均匀分布均匀分布， 记为xu(a,b) 1 () c l c acc lb l p cxc ldtc b ab a 设 -与 无关 0 ( ) 1 xa xa f xaxb ba xb 1 ( , ) ( ) 0 xa b f

7、 xba 其他 f x 0 b xa 1 b a f x 0 b xa 1 指数分布 定义：设x的概率密度为 其中0为常数，则称x服从参数为的指数分布指数分布。 记为 0 ( ) 0 0 x ex f x x 1 0 ( ) 0 0 x ex f x x 00 (|)p xtt xt 0 0 () () p xtt p xt 0 0 1() 1() t f tt e f t ()p xt x具有如下的无记忆性： )(epx 2 (,) xn 当时 (0 1) znz记， ，称 服从标准正态分布 ()()() ba paxb 2 2 1 2 x zxe 的概率密度： 2 2 1 ( ) 2 t

8、x zxedt 的分布函数： 1xx ( )yx ( )x ()x 0 y x xx 正态分布 随机变量的函数分布 一般，若已知x的概率分布，y=g(x)，求y的概率分布的过程为： 12 , (),()(); jj i yy yyyyy xdp yyp xd 1. 若为离散量，则先写出的可能取值： 再找出的等价 事件得 2. ()() (), ()()() y yy yy fyp yyyyxd fyp xdyfy 若为 连 续 量 ， 则 先 写 出的 概 率 分 布 函 数 ： ，找 出的 等 价 事 件 得； 再 求 出的 概 率 密 度 函 数； 关键是找出等价事件。 ( ),( )0

9、( )0) () x xfxxgxgx yg xy 定理：设，或。 ， 则 具有概率密度为： ( ( )( ) , ( ) 0, x y fh yh yy fy 其他 m in (),() m a x (),() ()() gggg hyxygx 其 中， 第三章 多维随机变量及其分布 二维随机变量 分布函数 分布律 概率密度 边缘分布函数 边缘分布律 边缘概率密度 条件分布函数 条件分布律 条件概率密度 随机变量的独立性 z=x+y的概率密度 m=max(x,y)的概率密度 n=min(x,y)的概率密度 数学期望 方差 协方差 相关系数 矩 第四章 随机变量的数字特征 定义：定义： 定义：

10、定义： 1 11 () 1,2, , kk kk k kk k kk k xp xxpk x px e x x p e xx p 绝对收 设离散型随机变量 的分布律为： 若级数则称级数的和为随机变量 的，数学期记望为即 敛， , ( ) () ( )( ( ) ) xf x x fxf x dx e xxf x dx xf x dxxe x x dx 设连续型随机变量 的概率概率为若积分 (即) 则称积分 的值为随机变量 的，记为 数学期望 即 绝对收敛 数学期望简称期望，又称均值。数学期望简称期望，又称均值。 数学期望 (),yxyg xg定理：设 是随机变量 的函数：是连续函数 (), 1

11、, 2, kk p xxpk 11 ()( ) ()() kkkk kk g xpe ye g xg xp 若绝对收敛，则有 ( )xf x是连续型随机变量，它的概率密度为 ( )e yy x 定理的在于我们求时，不必算出 的分布律重或 概率密度，而只要利用 的分布律或概率密度就 要意义 可以了。 ( ) ( )g x f x dx 若 绝对收敛 ( )( ()( ) ( )e ye g xg x f x dx 则有 x是离散型随机变量，它的分布律为： 上述定理也可以推广到两个或两个以上 随机变量的函数的情况。 ,x y若二维离散型随机变量的分布律为： ,(, ),zx yzg x yg定理：

12、设 是随机变量的函数：是连续函数 (,), ,1,2, ijij p xx yypi j 11 ( ) (, )( ,) ijij ij e ze g x yg x yp 则有 这里设上式右边的级数绝对收敛， ( )( (, )( , ) ( , )e ze g x yg x y f x y dxdy 则有 这里设上式右边的积分绝对收敛 ,x y若二维连续型随机变量的概率密度为： ()( , )e xxf x y dxdy 特别地， 数学期望的特性：数学期望的特性： ()()( )e axbycae xbe yc将上面三项合起来就是： 这一性质可以推广到任意有限个随机变量线性组合的情况 ( )

13、ce cc设 是常数，则有1. ()()xce cxce x设 是一个随机变量， 是常数，则有2. ,()()( )x ye xye xe y设是两个随机变量，则有3. ,()() ( )x ye xye x e y设是相互独立的随机变量，则有4. )()(xdx 定义：定义：设x是一个随机变量,若ex-e(x)2存在, 则称ex-e(x)2为x的方差方差.记为d(x)或var(x),即 d(x)= var(x)= ex-e(x)2 称为x的标准差标准差或均方差均方差. 定理定理: 22 ()() ()d xe xe x 对于对于离散型随机变量随机变量x x， () 1,2, kk p xxp

14、k其分布律为： 2 1 ()() kk k d xxe xp ( ),f x其概率密度为 2 ()()( )d xxe xf x dx 对于连续型连续型随机变量x， 方差方差 方差的性质：方差的性质： 22 , , ()()( ) x ya b c d axbyca d xb d y 综合上述三项，设相互独立，是常数， 则 ( )0cd c 1. 设 是常数，则 2 ()()xcd cxc d x2. 设是随机变量， 是常数，则有 , ()()( )2()( ) ,()()( ) x y d xyd xd yexe xye y x yd xyd xd y 3. 设是两个随机变量， 则有 特别，

15、若相互独立，则有 4. ()0()1 ()d xp xcce x且 01 2 12 122 222222 0111122 (,) 1,2, , (,) nn nnnn iii n cc xc xc x n c xnin c c cc cccc 若且它们相互 则它们的线性组合 独立 是不全 ： 为0的常数 n独立的 个正态变量的线性组合仍服从正态分布： 几种常见分布的均值与方差几种常见分布的均值与方差 数学期望数学期望 方差方差 分布率或 密度函数 分布 01分布 p p(1-p) 二项分布b(n,p) npnp(1-p) 泊松分布 均匀分布u(a,b) 指数分布 正态分布 1 ()(1) 0,

16、1 kk p xkpp k 1 ()(1) 0,1,., kkk n p xkc pp kn ( ) ()! 0,1,., k p xkek k 1 (), ( ) 0, baaxb f x 其它 a+b 2 2 (b-a) 12 ( )ep ,0 ( ) 0, x ex f x 其它 1 2 1 2 ( ,)n 2 2 () 2 1 ( ) 2 x f xe x 2 协方差及相关系数协方差及相关系数 定义： ()( ) (, ) (, )()( ) . (, ) () ( ) xy xy exe xye yxy cov x y cov x yexe xye y cov x y d x d y

17、 xy 量称为随机变量 与 的协方差， 记为：，即 称 为随机变量 与 的相关系数.是一个无量纲的量 协方差的性质：协方差的性质： (, )( ,)(,)()1. cov x ycov y xcov x xd x， (,2. )()() ( )cov x ye xye x e y (,)(, ) ,3. cov ax byabcov x ya b是常数 1212 (, )(, )(,4.)cov xxycov x ycov xy 1,()12. 110 0 xy xyxy a bp yabx bb 存在常数，使 特别的，时，；时， 相关系数的性质： 1. 1 xy 0 x y xy xy xy

18、 定 义 ：， 称与不 相 关 注 意 ，与不 相 关 ， 只 是 对 于 线 性 关 系 而 言 的 与相 互 独 立 是 就 一 般 关 系 而 言 的 0 xy xy随机变量 与 不相关，即的等价条件有： 1. (, )0cov x y 2. ()() ( )e xye x e y 3. ()()( )d xyd xd y xyxy xyxy 从而可知，当 与 相互独立与 一定不相关 反之，若 与 不相关， 与 却不一定相互独立 矩矩 xy定义：设 和 是随机变量 () 1,2, () k k e xk x 若存在， 则阶 原它为 的点称矩； () 1,2, k k exe xk x 若

19、存在， 则称它为 的 阶中心矩； ,1,2, kl e x yk l lxyk 若存在 存在， 则称它为 和 的阶混合矩； () ( ) ,1,2, , kl exe xye yk k l xly 若存在， 阶 则称它为的混合中心矩； 显然，最常用到的是一、二阶矩 第六章 数理统计的基本概念 总 体 样 本 统 计 量 2 分布 t 分布 f 分布 总体和样本 总体：研究对象的全体。如一批灯泡。 个体：组成总体的每个元素。如某个灯泡。 抽样：从总体x中抽取有限个个体对总体进行观察的取值过程。 随机样本：随机抽取的n个个体的集合(x1,x2,xn), n为样本 容量 简单随机样本：满足以下两个条

20、件的随机样本(x1,x2,xn)称 为简单随机样本。 1. 每个xi与x同分布 2. x1,x2,xn是相互独立的随机变量 说明：后面提到的样本均指简单随机样本，由概率论知，若总 体x具有概率密度f(x)，则样本（x1,x2,xn）具有联合密度 函数： 12 1 , n nni i fx xxf x 统计量：样本的不含任何未知参数的函数。 常用统计量：设（x1,x2,xn）为取自总体x的样本 1 1 1. x n i i x n 样本均值 1 1 1 3. 1,2, 1 () 1,2, n k ki i n k ki i kaxk n kbxxk n 样本矩阶矩： 阶中心矩： 22 1 1 2

21、. () , 1 n i i sxxs n 样本方差为样本标准差 2 2 2 ,., (),() ()_, ()_,()_. n xx x e xd x e x d xe s 1 （二）设x是 总体 的样本，若 ， 则 2 n 2 常用的分布 1 222 2 22 1 ,0,1 1,2, 1 1 n n n i i i x xxnin nn 设随机变量x相互独立，x 则称 服从自由度为 的， 定 指式右端包含 分布记为 自的独立变度 义： 由量的个数 2 分布 2 分布的一些重要性质： 2222 1. ,2nen dn设则有 222 1122121212 2. ,ynyny yyynn设且相互

22、独立，则有 2 2分布的可加性性质 称为，可推广到有限个的情形： 22 12 11 , mm iimii ii yny yyyn 设且相互独立，则 2 2 222 ,01, , n n fdy n y n n 为 分布的上 分 对给定的概率称满足条件的点 上 分位数的值可查位数分布表 2 0,1 ,nyn x tnttt y n y n 设x并且x相互独立， 服从自由度为 的 分布，记 则称随变量为机 定义： , 01, tn f t n dttn t ntt 对给定的称满足条件的点 为分布的上。 分布的上 分位数可位数查分分布表 t分布 tn f x x0 t分布的分位数 10n 313x

23、( )f x 1n 4n 2021 t分布的密度函数 1 ( )( )tntn z ,0,1 ,01xnzp xz z 此外 设若满足条件 则称点为标准正态分布的上 分位数。 1 zz 12 1212 , 1212 , 01,;, , fn n f x n ndxfn n f n nfn nf 对于给定的称满足条件的点 为分布的上 分位数。的值可查 分布表 1 11221 ( ,)(,)fn nf n n 22 12 1 1212 2 12 , , / , / nyny x n fn nfff n n y n nn 设x且x独立， 则称随机变量服 定义： 从自由度的 分布，记为 其中 称为第一

24、自由度，称为第二自由度 f分布 1 1221 ( ,),(,)ff n nff n n 性质：则 正态总体样本均值和方差的分布 2 22 12 2 2 2 2 , 1. x, -1 2. 1 6 3. x .6 n n x xxns n ns n s 设是总体的样本，x分别是样定理：本均值和样本方差，则有： 和 相互独立 2 2 1 /11 / t n xns x nt n s n 且两者独立，由 分布定义得： 22 1, , 1 ,6.7 n xxns n x t n s 设是总体的样本，x和分别是样本 均值和样本方差，则有： 定理： 2 2 2 1 6.60,1 ,1 / ns x nn

25、n 证明：由定理知， 12 22 111122 22 12 22 21 1222 12 12 22 12 12 222 12 , , 1 1,1 2(0,1), 3 6.8 nn xxyynn ss s ff nn s xy n nn xy 设样本和分别来自总体和 并且它们相互独立，其样本方差分别为 理 ： 时， 定 则 ： 当 12 12 12 22 112222 12 2 11 11 , 2 w www t nn s nn nsns sss nn 其中 第七章 参数估计 矩估计法 极大似然估计法 置信区间 置信度 参数的点估计 12 12 , 1,2, , n i i ini xxx ik

26、 xxx i 点估计的问题就是根据样本， 对每一个未知参数，构造出一 个统计量，作为参数 的估计， 称为。的估计量 点估计有两种方法： 矩估计法和极大似然估计法 1212 1212 1 ;, , 1,2, , 1 1,2, , 1121 , 212 kk k v vkn n v vi i xf x xke x e xvkxxxx vaxvk k a k n a 设总体 的分布函数为是待 估计的未知参数，假定总体 的 阶原点矩存在， 则有：对于样 用样本矩作为总体矩的估计，即 本 其 阶样本 ： 矩是： 令 12 12 2 , , , 12 kk a kkk 解此方程即得的一个矩估计量 一 矩估

27、计法：矩估计法： 1 12 2 2 1 1 , , , , , n ni n i n lnl x xxln fxlnl l x xxl l x xx 说明在求的最大值时，通常转 称为对数似然函 换为求： 数 通常 的最大， 记为 ，值 12 12 12 ,( , ), , , k n n xf xp x x xx x xx 设总体 的概率密度为或分布率为 未知参数，为参数空间，即 的取值范围 极大似然 。设是 样本的一个 估计法： 观察值： 12 11 12 1. 2. ,(, ) ) , nn nii ii n l x xxfxp x l x xx 作似然函数或 称为求使 的极达到最大大似的

28、 值，然估计量 求极大似然估计的一般步骤归纳如下： 估计量的评选标准 对总体的未知参数可用不同方法求得不同的估计量， 如何评价好坏？ 通常用三条标准检验：无偏性无偏性，有效性有效性，相合性相合性 无偏性无偏性 , , n e li e m e 若那 么 若则 称 为 估 计 量的 偏 差 渐 近称是的无 偏 估 计 量 12 , , n exxx 满足 则称 定义 是 的一 若参数 的估计 个无偏 量： 估计量。 在评价一个估计量的好坏时,我们当然希望估计量与被估参数越接 近越好.但估计量是一个随机变量,它的取值随样本的观测值而变,有时 与被估参数的真值近些,有时远些,我们只能从平均意义上看估

29、计量是否 与被估参数尽量接近,最好是等于被估参数.于是有无偏估计量的概念. 有效性有效性 12 12 12 , ,dd 设是的 两 个 无 偏 估 计 ， 如 果对 一 切成 立 则 称 ： 比 定 义 有 效 。 一个参数的无偏估计量不是唯一的,假若参数有两个无 偏估计量 ,我们认为其观测值更密集在参数真值附近的 一个较为理想.由于方差是随机变量取值与其数学期望的 偏离程度的度量,所以无偏估计以方差小者为好.这就引出 了估计量的有效性这一概念. 一致性 估计量的无偏性和有效性都是在样本容量固定的 前提下提出的.我们自然希望随着样本容量的增大,一 个估计量的值稳定于待估参数的真值.这就对估计量

30、提 出了一致性的要求. .),.,( 0| |lim , 0.),.,( ,),;(: 21 21 一致估计的为参数则称 总有若对于任意的估计量为 为待估参数有概率函数设总体定义 n n n xxx p xxx xpx 置信区间置信度 1122 11 1 12 1 1 2 1 ;01 , ,11 , , ,1 7 1 nn nn xf x xxxx pxxxx 定义：设总体 的分布函数含有一个未知参数 ，对给定的值 如果有两个统计量， 使得： 随机区间是 的双侧置信区间 则；称称为置信度 ； 和2分别称为双侧置信下限和双侧置信上限 。 区间估计 单侧置信区间 1 1 1 1 1 7 1 , 7

31、,1, 2 , 1 , , n n x x px x 为 的单侧置信下限 在以上定义中，若将式改为： 则称 随机区间是 的置信度为单侧置 的 。 信区间 。 2 2 2 1 1 72 ,1, , , 73 1 n n xx pxx 又若将式改为： 则称 随机区间是 的置信度为 为 的 的 单侧置信上限 单 。 侧置信区间。 这时必有 1),( ),( 212211nn xxxxxxp 正态总体均值方差的区间估计 2 ,n 一 单个正态总体的情形 22 12 , 1 n xxxnxs 来自和分别为样本均值和方差 置信度为 1. 均值 的置信区间 2 1 已知时 , 0,1 x xn n 是 的无

32、偏估计 由 2 1 x pz n 有 22 1p xzxz nn 即 22 ,xzxz nn 置信区间为： 1- ? 思考题： 均值 的置信度的 置信下限是什么呢 : x- n z 答案 2 2 未知时 1 x t n sn 由 22 111 x ptntn sn 有 22 111 ss p xtnxtn nn 即 22 1 ,1 ss xtnxtn nn 置信区间为： 0 t 1 2 2 0 t 2 2. 方差的置信区间 设 未知 2 2 2 1 1 ns n 由 2 22 1222 1 111 ns pnn 有 22 2 22 212 11 1 11 nsns p nn 即 22 22 2

33、12 11 , 11 nsns nn 置信区间为： 1- ? 2 思考题: 方差的置信度的 置信上限是什么 2 2 1 : (n-1)s . (1)n 答案 22 1122 ,nn 二 两个正态总体的情形 12 12 2 22 12111222 22 1 1211 , 11 , , 1. nn nn ij ij xxxny yyn xx yyss nn 来自来自 和分别为第一 二个总体的样本方差 置信度为 12 1. 的置信区间 22 12 1 ,已知时 22 12 12 12 ,xyn nn 由 12 22 12 12 0,1 xy n nn 有 22 12 212 xyz nn 置信区间为

34、： 2222 12 2 ,未知 12 12 12 6.8, 2 11 w xy t nn s nn 此时由第六章定理 22 112222 12 11 , 2 www nsns sss nn 其中 12 212 11 2 w xytnns nn 置信区间为： 2 1 2 2 2. 的置信区间 12 , 设未知 22 12 1222 12 1,1 ss f nn 由 22 12 121222 1 22 12 1,11,11 ss p fnnfnn 有 22 11 22 121222 1 22 11 , 1,11,1 ss fnnfnnss 置信区间为： 222 111 222 1212222 1

35、22 11 1 1,11,1 ss p fnnfnnss 即 待估 参数 其他 参数 w 的 分 布置信区间单侧置信限 一个正态总体 两个正态总体 2 12 2 1 2 2 2 已知 22 12 , 已知 22 12 2 未知 12 , 未知 2 xz n 2 1 s xtn n 22 22 212 11 , 11 nsns nn 12 2 未知 未知 22 12 2 12 xyz nn 2 1 2 2122 2 1 2 12122 1 , 1,1 1 1,1 s fnns s fnns 212 12 11 2 w x y tnns nn 0,1 x zn n 1 x tt n sn 2 22

36、 2 1 1 ns n 12 22 12 12 0,1 xy zn nn 22 12 12 22 12 1,1 ss ff nn 12 12 12 2 11 w xy tt nn s nn xz n xz n 1 1 s xtn n s xtn n 2 2 2 1 2 2 2 1 1 1 1 ns n ns n 22 12 12 12 22 12 12 12 xyz nn xyz nn 22 11 22 11222 22 11 22 1222 1 1,1 1 1,1 s fnns s fnns 1212 12 1212 12 11 2 11 2 w w x y t n ns n n x y t

37、 n ns n n 正态总体均值、方差的置信区间与单侧置信限 1置信度 随机过程 状态和状态空间 样本函数 有限维分布函数 均值函数 方差函数 自相关函数自协方差函数 互相关函数互协方差函数 正态过程 独立增量过程 泊松过程 维纳过程 第十二章 随机过程及其统计描述 一维、二维或一般的多维随机变量的研究是概率论的研 究内容，而随机序列、随机过程则是随机过程学科的研究内 容。从前面的描述中看到，它的每一样本点所对应的，是一 个数列或是一个关于t的函数。 ( , ), , ( , ), tx e t es ttet st tt x e t x e t es tt 设 是一无限实数集，是对应于 和

38、的实数， 即为定义在 和 上的二元函数。 若此函数对任意固定的是一个随机变量， 定义： 则称是随机过程； ,( , )tet x e t为参数集，对固过程定的 和称为的状态； ( , )x e t 所有可能的值状的全体称为态空间； ( , )( )x e tx t今后将简记为 ( , ), t x e t es tte对于随机过程进行一次试验，即 给定， 它是 的函数，称为随机过程的样本函数。 随机过程的概念 随机过程的统计描述 分布函数 两种描述 特征数 () 一 随机过程的分布函数族 1212 12 1 11 12 22 2 21 ( , ,)( ),( ) (2,3,), , ( ),(

39、 ),( ),1,2, ( ), ( ,; , ,) ( ), ,( ) xnn n ni xnn nn i f x xxt ttp x tx x txx t n nt ttt nx tx tx txr in x t tt f x xx t ttttx t t n x nt 一般地，对任意个不同的时刻， 维随机变量的分布函数： 称为随机变 ；， 量的 称为的 维分布函数 维分布函数族 1212 ( ,; , ,),1,2, ( ), xnni fx xx t ttntt x t tt 有限维分布 一般地， 称为随机过程的 它完全确定了随机过程 函数族 的统计特性 ( ), ( ), ( , )

40、 ) , ( , )( x x f x tp x txxr x t tttt x t tt f x t tt 设随机 ， 过程对每一固定的 称为随机一过程的 称 维分布函数 一为 ， 维分布函数族 22 22 2 ( ), ( )( )( )( ) ( )( )( )( ) ( )( ) xx xxx xx x t tt te x tte xt tdtex tt tt 均值函数均方值函 给定随机过程 - - 数 方差函数 标准差函数- 各数字特征之间的关系如下： (二二) 随机过程的数字特征随机过程的数字特征 12 1212 1212 1122 , ( , )( )( ) ( , )( ),(

41、 ) ( )( ) ( ) ( )( )( ) xx xx xx t tt rt te x t x t ct tcov x tx t ex ttx tt 又设任 自相关函数 自协 意 方差函数 2 , xx trt t 121212 , xxxx ct trt ttt 22 , xxxx tct trt tt 2 ( ), ( ) ( ) x t tttt e xt x t 随机过程，如果对每一都存在， 则称是， 二阶矩过程的均值函数和相关 二阶 函数 定 总 义： 是 程 矩过 存在的。 12 12 ( ), 1, , ( ),( ),( ) ( ), n n x t tt nt ttt x

42、 tx tx tn x t tt 是一随机过程，若它的每一个有限维分布 都是正态分布，即对任意整数及任意 服从 维正态分布， 则称是 正态过程的全部统计特性完全由它的均值函数和自协方差 正 函 定义： 态过程 数所确定。 ( ), ( ) ,( ), ( ) ( ), ( ) x t y ttt tt x t y t x t y ttt 设是依赖于同一参数的随机过程， 对于不同的()是不同的二维随 二 机变量， 称为维随机过程 (三三) 二维随机过程的分布函数和数字特征二维随机过程的分布函数和数字特征 1211 1212 12121212 ( ), ( ) , ,; , , ( ),( ),(

43、 ); ( ), ( ),( ) ( ,; , ,;,; , ,) nm nm nnmm x t y tttt tt t ttt nmx tx tx ty ty ty t f x xx t tty yyt m t n t 给定二维随机过程，是 中任意两组实数， 则维随机变量的 分布函数： 称为二维随机过程的维分布函数 1211 1212 ( ), ( ) , ,; , , ( ),( ),( )( ), ( ),() ( )( ) nm nm x t y ttt n mt ttt t ttt nx tx tx tmy ty ty t x ty t 给定二维随机过程 对任意的正整数，任意的数组

44、维随机变量与 维随机变量 相互独立，称随机变量和是相互独立的 ( ), ( )x t y t关于数字特征，除了各自的均值函数和自相关函数， 还有如下两个数字特征: 12 12 ( ), ( ), ( , )0,( )( ) xy x t y tt tt ct tx ty t 如果二维随机过程对任意的 恒有称和是不相关的。 121212 121212 ( , )( ) ( ) , ( , ) ( )( ) , xy yx rt te x t y tt tt rt te y t x tt tt 互相关函数 121122 121212 12121212 ( , )( )( ) ( )( ) ( ,

45、)( )( ) , ( , )( , )( )( ) , xyxy xyxy yxyxyx ct tex tty tt rt tttt tt ct trt tttt tt 互协方差函数 3 泊松过程及维纳过程 01 10211 ( ),0,0 ( )( ) 0, ( )( ),( )( ),( )() , ( ),0 n nn x t ts tst x tx s nttt nx tx tx tx tx tx t x t s t t 给定二阶矩过程，对， 上的增量； 独立的增量过 若 称随机变量为随机过程在区间 对任意选定的正整数 和任意选定的 个增量相互独立， 称为； 它具有“在互不重叠的区间

46、上，状态的增量是相互独立” 的 程 这 直观地说， 一特征； 0, ()()( )( ( )( )( ) (0 ) ) )0 , (x tx h sx tsx shth x thx shx tx s tsstts 若对任意的实数和 与具有相同的分布，称； 这时，增量的分布函数与的分布函数相同， 即只依赖于时间差而不依赖于 和 本身， 当增量具有平稳性时，称相应的独立增量过 增量 程是 具有平稳性 齐次的； 独立增量过程的性质： ( ),0(0)0,x t tx若是独立增量过程，且则： ( )( )( ) (0)1. x tx tx sst的有限维分布函数族可以由增量的 分布所确定； ( )(

47、, )( ,2.) xxx dtcs tdm in s t设已 知 ， 则 000 ( ),0 2. 0,( )() 3. (0)0 ( ),0 n tt ttn tn ttt n n tt 若计数过程满足下列三个条件： 1. 它是 泊松过程也可用另一形式定义 独立增量过程 对任意的增量 则称是强度为 的 ： 一泊松过程 泊松过程的定义 泊松过程 强度为 的泊松过程的数字特征： 000 1. ,e n t te n tn ttt 000 0 2. , 000 , nn dnttdntnttt tn tentt dtdntt 特 别 地 ， 由 假 设， 可 得 ： 3. , ,0 nn cs

48、tdmin s tmin s ts t 2 4. , ,0 nnnn rs tcs tstmin s tsts t n t设是强度为 的泊松过程 1 , n nnw wnwft是第 个质点出现的等待时间，下面给出的概率密度 0, n nwn wftp wtp n tn nttn 的分布函数 即第 个质点出现的时间内至少 个质点出现 0 ! 0 0 n k t wk nk n t p n tket ftk t 于是 1 11 0 ! 1 ! 0 0 n n n n k kkk w ttt k nk nw w dftt ktt eeet dtkkftn t 因此，的概率密度为： , n wn即服从

49、分布。 1 1 0 0 0 t w w et ft t 特别地，质点首次出现地等待时间服从指数分布： 1 11 10 1 11 0 0 2 1,2, 0 1 i ii i i t ii ii t tit p ttp n ttn tet ft twwiw ii 。 下面来求 的分布，设第个质点出现的时刻为， 记 称为相继出现的第个质点和第点间间距 个质点的 则 ,1,2 , 0 0 0 0 i i t it t i t et tft t 即 于是 的概率密度为： 点间间距序列服从同一个指 数分布。 定理一：强度为的泊松流(泊松过程)的点间间距是相 互独立的随机变量，且服从同一指数分布 定理二：如

50、果任意相继出现的两个质点的点间间距是相 互独立，且服从同一个指数分布： 这两个定理刻画出了泊松过程的特征，定理二告诉我 们，要确定一个计数过程是不是泊松过程，只要用统计方 法检验点间间距是否独立，且服从同一个指数分布。 0 0 0 t et f t t 则质点流构成强度为的泊松过程 2 ( ),0 1. 2. 00,0 3. (0)0 w t t tsw tw snts w 给定二阶矩过程，如果它满足： 具有独立增量 对任意，增量 且 称此过程为 定义： 维纳过程 维纳过程 维纳过程的性质： 1. 维 纳 过 程 是 齐 次 的 独 立 增 量 过 程 2. () 维 纳 过 程 是 正 态

51、过 程 ， 因 此 其 分 布 完 全 由 它 的 均 值 函 数 和 自 协 方 差 函 数 即 自 相 关 函 数 所 确 定 2 2 3. ( )0 ( ) , ,0 w w www te wt dtd wtt cs trs tdmins tmins ts t 维 纳 过 程 的 数 字 特 征 : (宽)平稳过程 时间均值 时间相关函数 各态历经性 谱密度 第十四章 平稳随机过程 平稳随机过程的概念 , x ttt是一随定义：机过程， 12 1,2, , n n nt ttth对任意的，和任意实数 12 , , n th ththt当时 12 12 , , n n x tx tx t

52、x thx thx th 和 具有相同的分布函数， 1212 1212 ,; , , ,;, , nn nn f x xx t tt f x xx th thth x ttt 平 即： 则称随机过程具有， 稳性 严平稳随机过程 称此过程为，简称严平稳过程 1212 212121 , 0 , 00, xx x xx x ttt te x te x rt te x tx t e xx ttrttrtt 记为 记为 设严平稳过程是二阶矩过程 则常 严平稳过程的数字 数 特征 ： , , x x x tttt tt e x t e x t x tr x ttt 给定二阶矩过程，如果对任意的 常数 则称

53、为宽平稳过程 严平稳过程二阶矩存在宽平稳过程；反之不一定成立. 今后，平稳过程均指宽平 定义： 稳过程。 , , , xy xyxy x ty ttt r rt te x t x tr x ty t 和是两个平稳过程 如果它们的互相关函数也只是时间差的函数，记为 即 称和是， 或称这两个过程 平 是 稳相关的 联合 定义： 宽 平稳的 随机积分定义： 两种定义下的随机变量在存在的情况下，以概率1相等 1. ,( ) , , , b a x tttx t ax ta bbt yx t dt y 给定二阶矩过程，如果它的每一个样本函数在 上的随机过程在上积分都存在，称， 的积分存 记为是一 在 随机变量； 012 11 2 0 1 2., ,1,2, 0 , i n iiiiii n ii max t i a battttb ttttt in ylimeyxt yx ta b 考虑内的一组分点： 且记 若存在随机变量 ，使