大数定律(补充)

1、 大数定律大数定律的背景及概念大数定律的背景及概念依概率收敛定义及性质依概率收敛定义及性质三个大数定律三个大数定律小结小结一、大数定律的背景和概念一、大数定律的背景和概念 大量随机试验中大量随机试验中1、大数定律的客观背景、大数定律的客观背景 有稳定性有稳定性测量值的算术平均值具测量值的算术平均值具某一常数某一常数事件发生的频率稳定于事件发生的频率稳定于例例1、掷一颗均匀正六面体的骰子，出现、掷一颗均匀正六面体的骰子，出现1点的概率是点的概率是1/6。但掷的次数少时，出现但掷的次数少时，出现1点的频率可能与点的频率可能与1/6相差较大，但相差较大，但掷次数很多时，出现掷次数很多时，出现1点的频

2、率接近点的频率接近1/6几乎是必然的。几乎是必然的。例例2、测量一个长度、测量一个长度a，一次测量的结果不见得就等于，一次测量的结果不见得就等于a，量了若干次，其算术平均值仍不见得等于量了若干次，其算术平均值仍不见得等于a,但当测量的但当测量的次数很多时，算术平均值接近于次数很多时，算术平均值接近于a几乎是必然的。几乎是必然的。 概率论中用来阐明大量随机现象概率论中用来阐明大量随机现象平均结果的平均结果的稳定性稳定性的一系列定理，称为的一系列定理，称为大数定律大数定律（law of large number)2、大数定律的概念、大数定律的概念介绍三个大数定律：介绍三个大数定律： （1 1）切比

3、晓夫大数定律切比晓夫大数定律、 （2 2）贝努利大数定律贝努利大数定律 （3）辛钦大数定律辛钦大数定律。它们之间既有区别也有联系。它们之间既有区别也有联系。 二、二、依概率收敛定义及性质依概率收敛定义及性质 定义定义，有，有若对于任意正数若对于任意正数一个常数一个常数是是是一个随机变量序列，是一个随机变量序列，设设 .,21aYYYn1|limaYPnn.,21aYaYYYPnn记为记为依概率收敛于依概率收敛于则称序列则称序列性质性质).,(),(),(),(,bagYXgbayxgbYaXPnnPnPn连连续续，则则点点在在又又设设函函数数，设设请注意请注意 : .10可可能能性性很很小小生

4、生的的的的发发生生，而而只只是是说说他他发发并并不不排排除除事事件件；的的概概率率很很大大，接接近近于于充充分分大大时时，事事件件当当，意意味味着着对对任任意意给给定定的的依依概概率率收收敛敛于于 aXaXnaXnnn.定定性性弱弱些些，它它具具有有某某种种不不确确中中的的普普通通意意义义下下的的收收敛敛依依概概率率收收敛敛比比高高等等数数学学三、大数定律三、大数定律1、定理一、定理一（切比晓夫定理的特殊情况切比晓夫定理的特殊情况）切比晓夫切比晓夫 则对任意的则对任意的0，有，有学学期期望望和和方方差差：独独立立，且且具具有有相相同同的的数数相相互互，设设随随机机变变量量,21nXXX21 2

5、(),()(, ,).kkE XD Xk 1|1|lim1 niinXnP|lim XPn11XnnkkX 做前做前 n 个随机变量的算术平均个随机变量的算术平均证证 nkkXnE11由于由于 nn1 nkkXEn1)(1 nkkXnD11 nkkXDn12)(1nnn2221 由切比晓夫不等式由切比晓夫不等式22111 nXnPnkk 上式中令上式中令 n得得1|1|lim1 niinXnP说明说明.,2 , 1XE1X,211有有的的稳稳定定性性），这这种种接接近近说说明明其其具具（）（接接近近数数学学期期望望的的算算术术平平均均随随机机变变量量定定理理以以数数学学形形式式证证明明了了、n

6、kXnXXkniin . 1|1|11于于时时，这这个个事事件件的的概概率率趋趋当当是是指指一一个个随随机机事事件件，、定定理理中中 nXnnii .常常数数收收敛敛的的意意义义下下逼逼近近某某一一算算术术平平均均值值是是依依概概率率这这种种稳稳定定性性的的含含义义说说明明.1),2 , 1()(,)(,1221 PnkkkknXXnXkXDXEXXX，即即依依概概率率收收敛敛于于，则则序序列列差差：有有相相同同的的数数学学期期望望和和方方相相互互独独立立，且且具具，设设随随机机变变量量3、定理的另一种叙述方式、定理的另一种叙述方式（书中定理书中定理3.4.2），有则任给无关的常数是与其中都有

7、的并且对于所有及方差数学期望序列，各有是相互独立的随机变量设0, 2 , 1,212121illDXiDXDXEXEXXXXin1|11|lim11 niiniinEXnXnP（切比晓夫定理）（切比晓夫定理）切比晓夫大数定律是切比晓夫大数定律是1866年被俄国数学家切比晓年被俄国数学家切比晓夫所证明，它是关于大数定律的一个相当普遍的结论，很多大夫所证明，它是关于大数定律的一个相当普遍的结论，很多大数定律的古典结果是它的特例。数定律的古典结果是它的特例。 设设 nA 是是n次独立重复试验中事件次独立重复试验中事件A发生的次数，发生的次数，p是事件是事件A在每次试验中发生的概率，则对于任意正在每次

8、试验中发生的概率，则对于任意正数数 0 ，有，有 2、定理二（贝努利大数定律）、定理二（贝努利大数定律）1|lim pnnPAn或或0|lim pnnPAn此定理说明了频率的稳定性此定理说明了频率的稳定性。证：令nkAkAkXk, 2 , 110，发生次试验中，在第不发生次试验中，在第则nkkAXn1，且nXX,1相互独立同服从于 分布) 10( 故 ,2, 1)1(nkppDXpEXkk，1|1|lim1pXnPniin,由定理一有由定理一有即 1|limpnnPAn。贝努里大数定律的重要意义贝努里大数定律的重要意义： (1)(1)从理论上证明了频率具有稳定性。从理论上证明了频率具有稳定性。

9、 （2)2)提供了通过试验来确定事件概率的方法提供了通过试验来确定事件概率的方法: : 这种方法是参数估计的重要理论基础。这种方法是参数估计的重要理论基础。 （3 3）是）是“小概率原理小概率原理”的理论基础。的理论基础。 小概率原理：小概率原理：实际中概率很小的随机事件在个实际中概率很小的随机事件在个别试验中几乎是不可能发生的。别试验中几乎是不可能发生的。)(APpnnA下面给出的下面给出的独立同分布下的大数定律，独立同分布下的大数定律，不要求随机变量的方差存在不要求随机变量的方差存在. 设随机变量序列设随机变量序列X1,X2, 相互独立，服从同一相互独立，服从同一分布，具有数学期分布，具有

10、数学期E(Xi)=, i=1,2,， 则对于任意则对于任意正数正数 ，有，有3、定理三（辛钦大数定律）、定理三（辛钦大数定律）1|1|lim1 niinXnP 1、辛钦大数定律为寻找随机变量的、辛钦大数定律为寻找随机变量的期望值提供了一条实际可行的途径期望值提供了一条实际可行的途径.注注2、伯努利大数定律是辛钦定理的特殊情况、伯努利大数定律是辛钦定理的特殊情况.3、辛钦定理具有广泛的适用性、辛钦定理具有广泛的适用性. 要估计某地区的平均亩产量要估计某地区的平均亩产量 ，要收割某些有代表性块，例如要收割某些有代表性块，例如n 块块地地. 计算其平均亩产量，则当计算其平均亩产量，则当n 较较大时，可用它作为整个地区平均亩大时，可用它作为整个地区平均亩产量的一个估计产量的一个估计.niixnx11当当n充分大时有充分大时有三、小结三、小结大大数数定定律律 大数定律以严格的数学形式表达了随机现大数定律