第四章大数定律与中心极限定理

1、概率论与数理统计第四章 大数定律与中心极限定理4.1 大数定律4.2 中心极限定理概率论与数理统计 第四章第四章 大数定律与中心极限定理大数定律与中心极限定理 概率论是研究随机现象的统计规律的一门数学学科,而这种统计规律性往往需要在相同的条件下进行大量的重复试验才能体现出来,这一般表现在以下两个方面: 其一,在大量重复试验中,事件发生的频率呈现某种稳定性,其平均结果实际上与个别随机现象无关,其极限已几乎不再随机.这就是大数定律所要表达的内容. 其二, 一种随机现象可能会受到许多不确定因素的影响,如果这些彼此之间没有什么依存关系,且谁也没有特别突出的影响,那么,这些影响的“累积效应”将会使现象近

2、似地服从正态分布,这就是中心极限定理所要描述的规律.这一章将介绍上述两方面的一些最基本的结果.概率论与数理统计 大量的随机现象中平均结果的稳定性大量的随机现象中平均结果的稳定性 大数定律的客观背景大数定律的客观背景大量抛掷硬币大量抛掷硬币正面出现频率正面出现频率字母使用频率字母使用频率生产过程中的生产过程中的废品率废品率4.1 大数定律大数定律概率论与数理统计 有关阐明大量随机现象平均结果的稳定性的（一系列）命题称为大数定律.定义4.1.1 设 是随机变量序列,如果存在常数a lim ()1nnP Xa0, 有1,nXXnX则称随机变量序列 依概率收敛于a.记为12,0,na aa 使得有定义

3、4.1.2 设 是随机变量序列,如果存在常数列 11lim()1ninniPXanPnXa1,nXX则称随机变量序列 服从大数定律.nX概率论与数理统计定理定理4.1.1 (切比雪夫（Chebyshev)大数定律）12,1,2,0,niiiX XXEX DXDXk i 设独立均存在且则有1111lim()1nniiniiPXEXnn证明证明:11111111()()nnnniiiiiiiiPXEXPXEXnnnn11111()nniiiiPXEXnn 121()1niiDXn 21211niiDXn 21nk211111()1nniiiikPXEXnnn 1111,lim()1nniiniiP

4、XEXnn于是概率论与数理统计212,1,2,0,niiXXXEXa DXi 设为相互独立同分布的随机变量序列 且则有推论（独立同分布大数)11lim()1niniPXan12.,nnXXX这一条大数定律在数理统计中常常用到它说明当 充分大时11.niiXXan的平均值在概率意义下会充分接近其数学期望定理定理4.1.2（贝努里大数定律）有则又记的频率为事件重贝努里试验中设在, 0,)(,pAPnAnn1)(limpnPnn证明证明:1,0,iiAXiA令在第 次试验中事件 发生在第 次试验中事件 不发生概率论与数理统计12,nnXXX则,1,1iiEXp DXpq而于是由定理 的推论有11li

5、m()1niniPXpn1)(limpnPnn即 贝努里大数定律从理论上解释了第一章所谈到的,独立重复试验中事件A出现的频率稳定在某一常数p附近.定理定理4.1.3（辛钦大数定律）12,1,2,0,niXXXEXai 设为相互独立同分布的随机变量序列 且则有11lim()1niniPXan此定理只要求数学期望存在,不管方差存在与否.概率论与数理统计例例4.1.1(1,2,)kXk 设相互独立的随机变量序列满足分布列11(),(0)12kkkP XkP Xk kX问是否满足大数定律的充分条件？解: 1110 (1)022kkkEXkkk 1122221()0(1)()122kkkEXkkk 1,

6、1,.kkDXX满足定理服从大数定律即11lim()1niniPXn概率论与数理统计例4.1.2 设 是独立同分布的随机变量序列,nX422.,() ,nnnnnEXEXDXYX 若令证明Yn服从大数定律.解:22()nnEYE X2()nnDYD X422()( () )nnE XE X44()nE X 由切比雪夫或辛钦大数定律知结论成立.概率论与数理统计用蒙特卡洛(Monte-Carlo)方法计算定积分 不少概率统计的问题都涉及到积分的近似问题.这里我们介绍两种方法.1.随机投点法随机投点法0( )1,( )0,1f xf x求在的设 积分值10( )Jf x dx0 xy11( )yf

7、x设X和Y都服从0,1均匀分布,且独立.()pP Yf X( )yf xdxdy1( )00f xdydx 10( )f x dxJ概率论与数理统计2.平均值法平均值法设f ( x )服从(0,1)上的均匀分布,则10()( )Ef Xf x dx11( )niiJf xn概率论与数理统计4.2 中心极限定理中心极限定理有关论证随机变量和的极限分布的命题都称为中心极限定理.定义4.2.112,0,1,2,.niXXXDXi设是随机变量序列有若,Rx21121()1lim( )2()nnxxiiiinniiXEXPxedxxDX 12,.nXXX则称服从中心极限定理定理定理4.2.1（独立同分布

8、中心极限定理（Lindeberg-Levy定理)）212,0,1,2,niiXXXEXDXixR 设为独立同分布 且存在则有2121lim2nxxiinXnPxedxn概率论与数理统计定理定理4.2.2（De Moivre-Laplace极限定理)有则又记的次数为事件重贝努里试验中设在,)(,RxpAPAnnxxnndxexnpqnpP2221lim推论推论有则对于任意设,), 2 , 1)(,(banpnBn)()(limabbnpqnpaPnn 推论告诉我们,二项分布的极限分布是正态分布.因此,二项分布的求概率的问题可近似地化为正态分布的问题.*,nnnpYnpq若令2*21lim( ).

9、2yxnnP Yyedxy 则*.nP Yy因此,概率论与数理统计例4.2.11210101,0,1,(6).iiXXXPX设相互独立 且均在（）上服从均匀分布 求的近似值解:11,212kkEXDX101011(6)1(6)kkiiPXPX 10111106 10221()1110101212kiXP 101511()0.9130.913kiXP )913. 01(1) 1 . 1 (11357. 08643. 01概率论与数理统计例4.2.2(100),XP设数学系学生报名选修“书法”的人数教务处决定120,120.如果选修人数多于人就分两个班上课 如果不多于人就只开一个班求分两个班上课的

10、概率解:(120)PP X分两个班上课）121()kP Xk121100!100kkek12100,1,XXX设相互独立且服从参数为的泊松分布 则121001,1,kkEXDXXXXX由定理1知(120)PP X分两个班上课）100(120)kiPX100100120 100()1010kiXP100100(2)10kiXP1001001(2)10kiXP 0228. 0)2(1概率论与数理统计 例例4.2.3 学校单位内部有260架电话分机.每个分机有4%的时间要用外线通话,可以认为各电话分机用不用外线是相互独立的.问总机要备有多少条外线才能以95%的把握保证各个分机在用外线时不必等候.解:

11、 X令表示在同一时刻260架分机中向校外通话的电话分机数,(260,0.04).XBx则设备有 条外线()0.95P Xx260 0.04260 0.04()260 0.04 0.96260 0.04 0.96XxP XxP96. 004. 026004. 0260 x16. 34 .10 x95. 016. 34 .10 x即要求95. 09505. 065. 1）（而65. 116. 34 .10 x故取61.154 .1065. 116. 3 x概率论与数理统计 例4.2.4 (正态随机数的产生) 在随机模拟中经常需要产生正态分布2( ,)N 的随机数.121(0,1),iiiXUiYX若上的均匀分布( =1, ,12),且独立.令 =则6,1EYDY2( ,)N 因此我们可以如下产生的随机数.(1) 产生12个(0,1)上均匀分布的随机数,1212,.x xx记为(2) 计算12126,yxxx则由林德贝格勒维中yN心极限定理知,可将 看成来自标准正态分布 (0,1)的一个随机数.,zyyN (3)计算 = +则可将 看成来自标准正态分布 ( , )的一个随机数.,nNn (4)重复(1) (2) 次 就可得到 ( ,