第五部分极限定理教学课件

1、第五章第五章 极限定理极限定理第第5.1节节 伯努利试验场合的极限定理伯努利试验场合的极限定理第第5.2节节 收敛性收敛性第第5.3节节 独立同分布场合的极限定理独立同分布场合的极限定理第第5.4节节 强大数定律强大数定律第第5.5节节 中心极限定理中心极限定理第第5.15.1节节 伯努利试验场合的极限定理伯努利试验场合的极限定理 一、问题的提出一、问题的提出二、伯努利大数定理二、伯努利大数定理三、棣莫弗三、棣莫弗-拉普拉斯极限定理拉普拉斯极限定理四、棣莫弗四、棣莫弗-拉普拉斯极限定理的拉普拉斯极限定理的 一些应用一些应用一、问题的提出一、问题的提出1、频率与概率、频率与概率 由概率的统计性定

2、义可知：概率是频率的稳定值。由概率的统计性定义可知：概率是频率的稳定值。也就是当独立重复试验次数增加时，其频率会呈现也就是当独立重复试验次数增加时，其频率会呈现出某种稳定性，这种稳定性体现了概率的本质特征出某种稳定性，这种稳定性体现了概率的本质特征.如何在理论上给出这种稳定性的证明呢？如何在理论上给出这种稳定性的证明呢？ 概率论与数理统计是研究随机现象统计规律概率论与数理统计是研究随机现象统计规律性的学科性的学科. 随机现象的规律性只有在相同的条件下随机现象的规律性只有在相同的条件下进行大量重复试验时才会呈现出来进行大量重复试验时才会呈现出来. 也就是说，也就是说，要从随机现象中去寻求必然的法

3、则，应该研究大要从随机现象中去寻求必然的法则，应该研究大量随机现象量随机现象. 研究大量的随机现象，常常采用极限形式，研究大量的随机现象，常常采用极限形式，由此导致对极限定理进行研究由此导致对极限定理进行研究. 极限定理的内容极限定理的内容很广泛，其中最重要的有两种很广泛，其中最重要的有两种:与与大数定律大数定律中心极限定理中心极限定理 大量的随机现象中平均结果的稳定性大量的随机现象中平均结果的稳定性 2 2、大数定律的引入、大数定律的引入大量抛掷硬币大量抛掷硬币正面出现频率正面出现频率字母使用频率字母使用频率生产过程中的生产过程中的废品率废品率 对于对于n重伯努利试验而言，事件出现的次数服从

4、二重伯努利试验而言，事件出现的次数服从二项分布，即项分布，即 (1),0,1, .kn knnpkppknk 而频率具有随机性（即波动性），其期望与方差为而频率具有随机性（即波动性），其期望与方差为 2(),()nnnpnpqpqepdnnnnn显然当试验次数显然当试验次数n增大时，频率的期望值不变，而方差增大时，频率的期望值不变，而方差的极限为零，而方差的极限为零相应的随机变量为常的极限为零，而方差的极限为零相应的随机变量为常数，也就是频率当数，也就是频率当n增大时，其极限值为常数。增大时，其极限值为常数。 如何表示这种极限思想呢？它与数学分析中的极限如何表示这种极限思想呢？它与数学分析中的

5、极限区别在哪里呢？区别在哪里呢？ lim0,. |.nnnaannns t aa对对当当，aa a ()nann nnn 但但对对于于频频率率列列而而言言，由由于于其其具具有有随随机机性性，因因而而无无法法保保证证随随着着 的的增增大大， 一一定定落落在在某某一一个个区区间间内内. .1713年伯努利在其论文中提出了这种极限的定义：年伯努利在其论文中提出了这种极限的定义：0,lim|0nnnpppnn稳稳定定于于对对由此给出了概率论极限定理的第一个结论由此给出了概率论极限定理的第一个结论大数定律大数定律3 3、中心极限定理的引入、中心极限定理的引入将二项分布的随机变量标准化，即得将二项分布的随

6、机变量标准化，即得nnnpnpnnpqpqn 此随机变量服从怎样的分布呢？此随机变量服从怎样的分布呢？ 法国数学家棣莫弗证明了当法国数学家棣莫弗证明了当p=1/2时，时，221limlim( )ed( )2ntxnnnpxfxtx nnnpnpq 也也就就是是说说，标标准准化化后后的的极极限限分分布布为为标标准准正正态态分分布布. . 后来拉普拉斯将此结论推广到后来拉普拉斯将此结论推广到0p1的情形，这的情形，这样就得到了极限定理的另一类样就得到了极限定理的另一类中心极限定理的中心极限定理的第一个定理第一个定理棣莫弗拉普拉斯中心极限定理棣莫弗拉普拉斯中心极限定理.4、大数定律的定义、大数定律的

7、定义 1,0,iiaia 第第 次次试试验验出出现现 设设则则第第 次次试试验验不不出出现现12nn表示表示n次试验中事件次试验中事件a出现的次数，而出现的次数，而12nnnn表示表示n次试验中事件次试验中事件a出现的频率出现的频率.前面讨论了频率与前面讨论了频率与概率的关系，对于一般情形，会是怎样的结果呢？概率的关系，对于一般情形，会是怎样的结果呢？ 12112,1,0,lim|0lim|1.nnniinnnnnnnnna aapapa 设设是是随随机机变变量量序序列列 令令如如果果存存在在一一个个常常数数序序列列对对任任意意的的恒恒有有或或者者则则称称随随机机变变量量序序列列服服从从数数数

8、数则则）大大定定律律( (大大法法定义定义5.1.1二、伯努利大数定律二、伯努利大数定律 伯努利大数定律是概率论极限定理的第一个定理，伯努利大数定律是概率论极限定理的第一个定理，1713年由伯努利给出的，主要证明了概率是频率的年由伯努利给出的，主要证明了概率是频率的稳定值稳定值. 为了给出伯努利大数定律的一个简单证明，我们为了给出伯努利大数定律的一个简单证明，我们首先介绍一个比伯努利大数定律更强的一个大数定首先介绍一个比伯努利大数定律更强的一个大数定律律.1、车贝晓夫大数定律、车贝晓夫大数定律车贝晓夫大数定理车贝晓夫大数定理 1212,(),(),(),nndc dcdc 设设随随机机变变量量

9、两两两两不不相相关关且且都都具具有有有有限限的的方方差差 并并有有公公共共的的上上界界则则对对于于任任意意正正数数 ，皆皆有有车贝晓夫车贝晓夫111111lim|()|111lim|()|0.nniiniinniiniipennpenn或或者者证明：证明：21111()nniiiiddnn由车贝晓夫由车贝晓夫不等式不等式可得可得122111()110(),ninniiiiidcnpennn ，在上式中令在上式中令 n1111()0.nniiiipenn证毕证毕,n 因因为为两两两两不不相相关关 故故则则cn22( ),( ),( ).eddp 设设随随机机变变量量具具有有数数学学期期望望方方差

10、差则则对对于于任任意意正正数数不不等等式式理理成成立立定定 车贝晓夫大数定律是由俄国数学家车贝晓夫车贝晓夫大数定律是由俄国数学家车贝晓夫1866年给出证明的，它是一个关于大数定律相当普遍的一年给出证明的，它是一个关于大数定律相当普遍的一个结论个结论. 1211,11().nnniiiinenn 当当很很大大时时 随随机机变变量量的的算算术术平平均均接接近近于于它它们们的的数数学学期期望望的的算算术术平平均均值值（这个接近是概率意义下的接近）（这个接近是概率意义下的接近） 即在定理条件下即在定理条件下, n个随机变量的算术平均个随机变量的算术平均, 当当n无无限增加时限增加时, 几乎变成一个常数

11、几乎变成一个常数.车贝晓夫大数定律的意义车贝晓夫大数定律的意义马尔可夫注意到车贝晓夫的证明过程中，只用到马尔可夫注意到车贝晓夫的证明过程中，只用到211()0nnkkdn 由此给出马尔可夫大数定律：由此给出马尔可夫大数定律：2,n 1 1 对对于于随随机机变变量量尔尔序序如如果果马马数数列列可可夫夫大大定定律律211()0nnkkdn 0, 则则对对任任意意的的1111lim|()|1.nniiniipenn车贝晓夫定理的另一种叙述车贝晓夫定理的另一种叙述: 1212,(),(),(),nndc dcdc 设设随随机机变变量量两两两两不不相相关关且且都都具具有有有有限限的的方方差差 并并有有公

12、公共共的的上上界界则则 11111(),1().nniiiinpiiennen 序序列列依依概概率率收收敛敛于于即即 , , 1212,lim|0,nnnnpnapaaa 设设是是一一个个随随机机变变量量序序列列是是一一个个常常 数数 若若对对于于任任意意正正数数有有则则称称序序义义列列依依概概率率收收敛敛于于特特例例）记记为为定定5.2.3(5.2.3( , , 0lim0lim1.nnnnnnapappppnn 设设是是次次独独立立重重复复试试验验中中事事件件发发生生的的次次数数是是事事件件在在每每次次试试验验中中发发生生的的概概率率 则则对对于于任任意意正正数数有有或或数数伯伯努努利利大

13、大定定律律证明：证明： 引入随机变量引入随机变量10,1,2,.kkakak 若若在在第第 次次试试验验中中 不不发发生生若若在在第第 次次试试验验中中 发发生生伯努利伯努利2、伯努利大数定律与泊松大数定、伯努利大数定律与泊松大数定律律12nn显然显然 12,n 因因为为是是相相互互独独立立的的， (01),kp 且且服服从从以以为为参参数数的的分分布布 1(),()(1),1,2,4kkepdppk所所以以根据车贝晓夫大数定律有根据车贝晓夫大数定律有121lim()1,nnppnlim1.nnppn 即即证毕证毕关于伯努利大数定律的说明关于伯努利大数定律的说明: , .nnp 贝贝努努利利定

14、定律律表表明明事事件件发发生生的的频频率率依依概概率率收收敛敛于于事事件件的的概概率率它它以以严严格格的的数数学学形形式式表表达达了了频频率率的的稳稳定定性性 故而当故而当n很大时很大时, 事件发生的频率与概率有较事件发生的频率与概率有较大偏差的可能性很小大偏差的可能性很小. 在实际应用中在实际应用中, 当试验次数当试验次数很大时很大时, 便可以用事件发生的频率来代替事件的概便可以用事件发生的频率来代替事件的概率率. 泊松泊松n , , , 1,01lim1.knnknkakpnappnn 如如果果在在一一个个独独立立试试验验序序列列中中事事件件在在第第 次次试试验验中中发发生生的的概概率率是

15、是以以记记在在前前 次次试试验验中中事事件件 出出现现的的次次数数 则则对对于于任任意意正正数数有有数数泊泊松松大大定定律律证明证明引入随机变量引入随机变量10,1,2,.kkakak 若若在在第第 次次试试验验中中 不不发发生生若若在在第第 次次试试验验中中 发发生生则由类似于伯努利大数定理的证明可得结论则由类似于伯努利大数定理的证明可得结论.3、大数定律的重要意义、大数定律的重要意义 根据实际生活经验，概率接近根据实际生活经验，概率接近1或或0的事件在生活、的事件在生活、工作中具有非常重要的意义，概率论的一个基本问题工作中具有非常重要的意义，概率论的一个基本问题就是要建立概率接近就是要建立

16、概率接近1 或或0的规律，特别是大量独立的规律，特别是大量独立或弱相关因素累积结果所发生的规律，大数定律就是或弱相关因素累积结果所发生的规律，大数定律就是这种概率论命题的一个重要部分。这种概率论命题的一个重要部分。 伯努利大数定律提供了频率稳定于概率的理论基础，伯努利大数定律提供了频率稳定于概率的理论基础，这一结论在数理统计中有重要应用，特别是参数估计这一结论在数理统计中有重要应用，特别是参数估计问题中，这些大数定律的作用非常明显问题中，这些大数定律的作用非常明显.三、棣莫弗拉普拉斯极限定理三、棣莫弗拉普拉斯极限定理1、局部极限定理与积分极限定理、局部极限定理与积分极限定理10,1,2,.kk

17、akak 若若在在第第 次次试试验验中中 不不发发生生若若在在第第 次次试试验验中中 发发生生12.nn设随机变量序列为设随机变量序列为则事件则事件a在试验中出现的次数为在试验中出现的次数为nnpk 随随机机变变量量的的取取值值概概率率的的渐渐近近表表达达式式nnpnpq 被被称称为为，而而将将标标准准化化随随机机变变量量 的的渐渐近近分分布布称称为为积积局局部部极极限限定定理理分分极极限限定定理理2、棣莫弗拉普拉斯极限定理、棣莫弗拉普拉斯极限定理 01, , nnapa b 若若为为 次次伯伯努努利利试试验验中中事事件件 出出现现的的次次数数，则则对对任任意意的的有有限限区区间间定定理理5.

18、1.15.1.1 ( ),kknpiaxbnnpq 当当及及时时，一一致致有有棣莫弗棣莫弗拉普拉斯拉普拉斯 2121 (e)12kxnpknpq (ii) ( )dbkanknpp axbxxnpq 当当时时，一一致致有有221( )e()2xxx 其其中中证明证明 (i) 先证局部极限定理先证局部极限定理 , kxa bn 因因为为只只能能在在有有限限区区间间中中取取值值，故故当当时时kknpxnpq (1)kjnknpxnpq 由由stirling公式：公式： 1!2(0)12mmmmmmm eem 因而因而! !kjnnpkp qk j 1122112kn knpnqeknknpq 22

19、2nkjnnkjkkjjnn ep q ekk ej j e nkj其其中中 ，因因此此1111|()12 nknk 又因为又因为1kknpxnpqkqxnpnpnp 1kknqxnpqnkpxnqnqnq 则则ln()ln(1)kkqxnpnp234111234kkkkqqqqxxxxnpnpnpnp234ln()ln(1)111234kkkkknkpxnqnqppppxxxxnqnqnqnq 这是因为这是因为2341ln(1)( 1)234nnxxxxxxn ( 11)x ln( 2)nnpqpk 112211ln( 2)2kn knpnqnpqeknknpq 11()ln()ln22kn

20、kknknpnq 1()ln(1)21()ln(1)2kkkkqnpxnpqxnppnqxnpqxnq 23423411()(22111)()342111()234kkkkkkkkkkqqnpxnpqxxnpnpqqxxnqxnpqnpnpppppxxxxnqnqnqnq 23222333(3)26113()()( )12kkkkkxqpxxnpqpqxpqxonpqn 2322233311exp(3)226113()()( )12knkkkkxqppkxxnpqnpqpqxpqxonpqn 因此因此23111exp(3)()226kkkxqpxxonpqnpqn232111eexp(3)()

21、26kxkkqpxxonpqnpqn232111e1(3)()26kxkkqpxxonpqnpqn23e12!3!xxxx 这是因为这是因为由此即证明当由此即证明当n 时，时， 2121 (e)12kxnpknpq 定理的第一部分已经证明定理的第一部分已经证明. (ii) 再证积分极限定理再证积分极限定理kkknpp axbnpqp npa npqnpb npq 1np b npqkknp a npqor np a npqpk (| 11( ()|)(np b npqkkkknp anpqor np anpqxnpq局局部部极极限限定定理理） 1 1()np b npqnp b npqkkkn

22、p a npqknp a npqor np a npqor np a npqxnpqnpq又因为又因为 11( 1)()1np b npqkknp a npqor np a npqnpqnpb npqnpa npqnpqbanpqnpq 同时注意到：同时注意到：1,knxnpq 当当时时，的的增增量量为为因因而而由由定定积积分分的的定定义义可可知知( )dbkkanpp axbxxnpq 【定理证毕】【定理证毕】四、棣莫弗拉普拉斯极限定理四、棣莫弗拉普拉斯极限定理 的一些应用的一些应用1 1、导出伯努利大数定律、导出伯努利大数定律棣莫弗拉普拉斯极限定理棣莫弗拉普拉斯极限定理伯努利大数定律伯努利

23、大数定律ln 对对于于固固定定的的 ，以以及及任任意意的的正正数数 , ,只只要要 足足够够大大2npql npqnnl 因而因而nnnpnplnnpq 所以所以nnnpnpplpnnpq ( )dlnlnnpplxxnpq 而而当当时时，0, l 对对于于给给定定的的任任意意小小的的实实数数选选取取适适当当的的 使使得得( )d1,llxx 因而因而1nnnpnpplpnnpq 由由 的的任任意意性性可可得得，伯伯努努利利大大数数定定律律是是成成立立的的. .2 2、用频率估计概率时的误差估计、用频率估计概率时的误差估计由积分极限定理可知由积分极限定理可知nnnpnnpppnpqpqnpq(

24、)()2 ()1nnnpqpqpq 上述结论可以解决一下几个问题：上述结论可以解决一下几个问题：( ), , ,kin pppn 已已知知计计算算通通过过查查表表解解决决. .( ),kiippn 设设定定即即2 ()1npq 由由此此可可以以确确定定至至少少需需要要多多少少次次试试验验，可可以以保保证证频频率率与与概概率率的的误误差差不不超超过过给给定定的的数数概概率率不不小小于于给给定定的的数数. .()iiin 计计算算频频率率与与概概率率的的误误差差，即即已已知知 与与 ，试试求求, ,方方法法如如下下：2 ()12 ()1nxpq 由由可可得得，pqxn 1,4ppq 另另外外，若若

25、 不不知知道道，则则利利用用可可以以得得到到估估计计式式为为2xn 3 3、局部极限定理在二项分布计算中的应、局部极限定理在二项分布计算中的应用用由局部极限定理可知由局部极限定理可知 21211(e)12kxkn knp qknpq 则则n较大时，二项分布的计算可以用下列近似式：较大时，二项分布的计算可以用下列近似式： 1()kn knknpp qknpqnpq 01pn 当当 不不太太接接近近 或或 ，同同时时 又又不不太太小小时时，近近似似计计算算效效果果良良好好. .4 4、积分极限定理在二项分布计算中的应、积分极限定理在二项分布计算中的应用用由积分极限定理可知由积分极限定理可知( )(

26、 )nnpp abbanpq 由此可以得到如下近似计算：由此可以得到如下近似计算：121221()()nnnpknpknpp kkpnpqnpqnpqknpknpnpqnpq 例例1 车间有车间有200200台车床，它们独立的工作着，开工率各台车床，它们独立的工作着，开工率各为为0.6,0.6,开工时耗电各为开工时耗电各为1 1千瓦，问供电所至少要供给这千瓦，问供电所至少要供给这个车间多少电力才能以个车间多少电力才能以99.9%99.9%的概率保证这个车间不的概率保证这个车间不会因为供电不足而影响生产会因为供电不足而影响生产. .解解设需要供电设需要供电r千瓦，才可以满足题设要求，即千瓦，才可

27、以满足题设要求，即2000200(0.6) (0.4)0.999rkkkprk 利用极限定理可得利用极限定理可得2000200(0.6) (0.4)rkkkk200 0.60.5200 0.60.5()()200 0.6 0.4200 0.6 0.4r 119.517.39119.5()()()0.999484848rr 查表可得查表可得119.53.148r 因而因而141r 一船舶在某海区航行一船舶在某海区航行, 已知每遭受一次海浪已知每遭受一次海浪的冲击的冲击, 纵摇角大于纵摇角大于 3 的概率为的概率为1/3, 若船舶遭受若船舶遭受了了90000次波浪冲击次波浪冲击, 问其中有问其中有2950030500次纵次纵摇角大于摇角大于 3 的概率是多少？的概率是多少？解解 将船舶每遭受一次海将船舶每遭受一次海浪的冲击看作一次试验浪的冲击看作一次试验,并假设各次试验是独立的并假设各次试验是独立的,在在90000次波浪冲击中纵摇角大于次波浪冲击中纵摇角大于