浙大版概论,大数定律与中心极限定理

1、第四章大数定律与中心极限定理教学目的与要求掌握三个大数定律的条件、结论；了解随机变量序列的两种收敛性；掌握独立同分布中心极限定理的条件、结论，并会用来解 决一些实际问题。、教学重点和难点教学重点是讲清大数定律的条件、结论和中心极限定理的条件、结 论。教学难点是随机变量序列的两种收敛性及大数定律和中心极限定 理的应用。4.1大数定律一、大数定律的意义在第一章中引入概率的概念时曾经指出，频率是概率的反映，随着观测次数n的增加，频率将会逐渐稳定到概率。详细地说：设在一次观测中事件A发生的概率厂. ”,如果观测了次（也就是一个重贝努里试验），A发生了次，则A在 次观测中发生的频率丫，当1充分大时，逐渐

2、稳定到*。若用随 机变量的语言表述，就是：设 ：表示第次观测中事件A发生次数，即1第砍试验中/发生滋匸|o第砍试脸中月不发空上二12 角=另$i则t 为一列独立随机变量，显然- 从而有因此“.稳定于：”又可表述为1次观测结果的平均值稳定于/。现在的冋题是：“稳定”的确切含义是什么？稳定于J是否能写成lim = p“ A测当心耐”有亦即，是否对W .，(2)对所有的样本点都成立?实际上，我们发现事实并非如此，比如在J次观测中事件A发生次还是有A?=他 = 1节可能的，此时 二，从而对一 ，不论N多大，也不可能有成立。就是说，在个别场合下，事件（p）还是有可能发的 Jl：-；，有生的，不过当n很大

3、时，事件（U - = 11 =I n）发生的可能性很小。例如，对上面显然，当一宀时，这个概率趋于0，所以稳定于：”是意味着fcl刊企-能E）=0(3)“ I刃 f 成立血刊一刀A沖4 = 0 沿用前面的记号，（3）式可写成-一般地，设厂二为一列独立随机变量，为常数，如果对任意:，有1 *1 画刊一孚-水沪（即八1卞则称二稳定于“。概率论中，一切关于大量随机现象之平均结果稳定性的定理， 统称为大数定 律。若将（4）式中的J换成常数列 ? r ，即得大数定律的一般定义。 定义：若为一列随机变量序列，如果存在常数列J- r ，成立，则称随机变量序列 i服从大数使对血0,有吧刊于一如心勻 定律。若随机

4、变量：具有数学期望亡 -，则大数定律的经典形式是:U1血刊-乞加-乞硝|9=1对，有1 臥二一另昭川=12 这里常数列注：本书只讨论经典形式的大数定律。二、大数定律本段介绍一组大数定律，设为一列随机变量，我们总假定 一存在。定理（契贝晓夫大数定律）设 J-为一列两两不相关的随机变量，又 设它们的方差有界，即存在常数11，使有-，则称随机变量 序列服从大数定律，即有1 1 w “ faiP（|对 I-. I，有 i证明见书196页。例:丄；例4.1推论（贝努里大数定律）：设宀是n重贝努里试验中事件A出现的次数，又A在 每次试验中出现的概率为，则对任意的：.，有证：设rl第畝试验中/发生0第i次试

5、验中/不发生显然 -由假定，-:二独立同分布(均服从二点分布)且二-匚- -都是常数，从而方差有界由契贝晓夫大数定律，有lim -pf) = lim#此推论阐述了频率稳定性的含义，为用频率估计概率提供了理论依据。例：设为一列随机变量，如果 则二服从大数定律。 1.(*)证明：n, J的方差存在limp工切=0 小旳Iti丿表明对充分大的对)，由契贝晓夫不等式1 1 刊-彷-雜*刊-羽*(-工訓胃川 i左 i Jn j-1* i-1(y 、D丄孚1理&/i-1(Ki1丄两边取极限得1 1 即八故f I服从大数定律此称为马尔可夫大数定律(* )式称为马尔可夫条件。卜P& 二 7557)二-= -7

6、in7)= - . 1D例：设-!的分布列为：1 ,I,-且相互独立，试证明-：服从大数定律。= 7x-x - = o证：11总 V-1） n w故f I服从大数定律（马尔可夫大数定律）。以上大数定律是以契贝晓夫不等式为基础的，所以要求随机变量的方差存在，通过进一步研究，我们发现方差存在的条件并不是必要条件。定理（辛钦大数定律）设 二二是一列独立同分布的随机变量，且数学期望存在-1 则对：丁八，有成立。定理的证明将在下一章给出。例：设二独立同分布，且共同密度函数为问（1） -:的数学期望及方差是否存在?1+ 6+oo d（2）-：是否服从大数定律？|Jp(x)dfe= (1 + 5)解：(1)

7、因为故：的数学期望存在。fx2p（x）dx = （1 + 5）I2 必=（l +（5）-一 x= +oo 又因为:L 故：的方差不存在。（2 ）由（1 ）知上存在，故满足辛钦大数定律的条件，服从辛钦大数定律。从此例可以看出，随机变量序列-；不满足契贝晓夫大数定律的条件，因而 服从大数定律的随机变量序列，它们的方差可以不存在。例：若为一列独立同分布的随机变量序列，且 ：的密度函数为本0也1问：（1）是否满足契贝晓夫大数定律的条件?解:(2)打是否满足辛钦大数定律的条件?fjlE貯二卜处地二故- f不存在:的数学期望存在，但方差不存在所以i不满足契贝晓夫大数定律的条件，满足辛钦大数定律的条件。辛钦

8、大数定律为实际生活中经常采用的算术平均值法则提供了理论依据，它断言：如果诸是具有数学期望、相互独立、同分布的随机变量，则当n充分大济+ & +点时，算术平均值J.一定以接近1的概率落在真值的任意小的邻域内。据此，如果要测量一个物体的某指标值-，可以独立重复地测量n次，得到Xi +x + + 兀r r hi r R一组数据：I ，当n充分大时，可以确信，且把勿+阳+心必作为必的近似值比一次测量作为的近似值要精确的多，因% - Q， l丼讯丿；但D占-。，h-】丿，即就i-L关于必的J.偏差程度是一次测量的E) = 0lim P( 故41母心+1)(2料+1) 32 2 + 1心、K77-F =弋

9、T 0仇 T ra+6%：幷3 + 1)2肖(料+1)3即 iJUl2、性质 1 ）、若黒丄f则P（二仍二1 证：TMf f创;Ve0,由卜卩则K能亍網迄中至少有一个成立，即jF、十險-非）U乜-恥号2% -加疔i/ I1 詞曰邮詡2沪唯胡巧）+ F -加巧）T呛） 于疋即八厂h二：；仁丄八这表明，若将两个以概率为1相等的随机变量看作相等时，依概率收敛的极 限是唯一的。2）、设也是两个随机变量序列，d ,b为常数，若人 /兀 “且 在 g（x,y）在点（a,b）处连续，则 J g 证明方法类似于1）3）、若心亠E，% 亠几则什士乳亠$几血T如；. - -0、依分布收敛 1、定义定义4.3设是一

10、 -列分布函数，如果对F（x）的每一个连续点x，都有一 -T 成立，则称分布函数列 El 弱收敛于分布函数F（ x），并记作哄）宀F（讪）若随机变量序列 二 丄：的分布函数 匚-弱收敛于随机变量的分布 函数f（x）,也称：按分布收敛于，并记作I |：| n2、依概率收敛与弱收敛之间的关系定理4.若随机变量列 儿; 依概率收敛于随机变量，即I 亠一-： 则相对应的分布函数列弱收敛于分布函数F ( x)即E (力 (x)B T oo)证明：略。注意：这个定理的逆命题不一定成立，即不能从分布函数列的弱收敛肯定相应的随机变量序列依概率收敛，但在特殊情况下，它却是成立的。定理5随机变量序列I 二V J己

11、丁_ sF(x) = I这里虎卩三(:的分布函数，也就是退化分布.Ox 乂。分布函数列的弱收敛是一个很有用的概念， 但要判断一个分布函数序列是否 弱收敛，有时很特殊，而判定相应的特殊函数序列的收敛性却往往比较容易。 定理6分布函数列 侃 弱收敛于分布函数F(x)的充要条件是相应的特殊函数 列上川收敛于F( x)的特征函数.3中心极限定理-、中心极限定理的概念设为一独立随机变量序列，且，n=1,2,均存在，令称其为的规范和。概率论中，一切关于随机变量序列规范和的极限分布是标准正态分布的定理统称为中心极限定理，即设的规范和 -有则称服从中心极限定理、中心极限定理定理7:（德莫佛一拉普拉斯）极限定理

12、在n重贝努里试验中，事件A在每次试验中出现的概率为/ （0丿1 ）,5为n次试验中A事件发生的次数，则d：-曲P定理8:（林德贝尔格-勒维）中心极限定理 设&,事,证明：自己阅读是一列独立同分布的随机变量，且/ lim PJU16瓦则有n( *Eg k-L中心极限定理实质上为 当然这里要求-， ,是一列独立同分布的随机变量。三、应用德莫佛一拉普拉斯中心极限定理是概率论历史上的第一个中心极限定理，它有许多重要的应用。下面介绍它在数值计算方面的一些具体应用。1、二项概率的近似计算设宀是n重贝努里试验中事件A发生的次数，贝U对任意一；一:兰妞*）=工心（1-沪也tY当n很大时，直接计算很困难。这时如

13、果：不大（即p较小时接近与0）或 沁-P）不大（即p接近于1）则用普阿松近似公式来计算当p不太接近于0或1时，可用正态分布来近似计算I加丿恥均 (1.96)-1= 0 975x2-1 = 0 95故结黄果植株介于83到117之间的概率为0.95例2、某单位内部有260架电话分机，每个分机有4%的时间要用外线通话。可以认为各个电话分机用不同外线是相互独立的。问：总机需备多少条外线才能 以95%的把握保证各个分机在使用外线时不必等候?解：由题意，任意一个分机或使用外线或不使用外线只有两种可能结果，且使用外线的概率p=0.04 ,260个分机中同时使用外线的分机数设总机确定的最少外线条数为，则有z | - - 1 - 由于；I较大，故由德莫佛一拉普拉斯定理，有查正态分布表可知-解得-:所以总机至少备有16条外线，才能以95%的把握保证各个分机使用外线时 不必等候。用频率估计概率的误差估计lim P由贝努里大数定律小Hm ? ff那么对给定的