大学数学概率论

1、第5章 大数定律与中心极限定理,5.1 切比雪夫不等式 与 大数定律,以前，我们常这样说： “频率是概率的反映，随着试验次数的增多，频率将会逐渐稳定 于概率”； “当试验次数n很大时，频率与概率非常“接近”、“靠近”; “概率是频率的稳定值”; 等等。 同学们早就有疑问：“逐渐稳定”、非常“接近、靠近”、“稳定值”，这些究竟是什么意思？是不是数学分析中极限的那种“接近”？,学习本节，主要是（1）掌握一种估算事件发生的概率的方法；（2）要从理论上严格以前提到的关于“频率和概率的关系”的几种说法，从而明确“频率和概率的关系”到底是何种关系。,定理5.1：（切比雪夫（Chebyshev）不等式）,设

2、随机变量 的数学期望 和方差 都存在 ， 则对于任意的正数 ，有下列不等式成立：,或,分析：1. 首先切比雪夫不等式从概率的角度,描述了随机变量 在 其均值 周围取值的分散程度.并用数学式子表示出来. 2. 切比雪夫不等式,给出了在未知随机变量 的分布的情况 下, 求事件“|X-E(X)| ”的概率的一种估计方法.,例如:取 , 则,证明: ( 仅就连续随机变量的情形)设连续随机变量 的概率密度为,又由于“ ”与 “ ”是对立事件，,例5.1 ：利用切比雪夫不等式确定当掷一枚均匀硬币时，需掷多少 次才能保证使得正面出现 的 频 率 在 0.4 与 0.6 之间 的 概 率不 小于 90 %。,

3、解：设 表示“在掷 次试验中，出现正面的次数”，则出现正面 的频率为 。,由 切 比 雪 夫 不 等 式,定理5.2 （切比雪夫（Chebyshev）大数定律 ）,设独立随机变量序列 的数学期望与方差都存在, 且方差是一致有上界的, 即存在常数 , 使得,则 对于 有,证前分析: 若记 序列 的算术平均值；,因此定理5.2的结论可改写成:,这说明: 当 充分大时,算术平均值 将紧密地聚集在其期望 的附近.,由方差的性质知：,另由切比雪夫不等式知：,但是 概率只能小于等于1,切比雪夫大数定律证明了算术平均值的稳定性。 比如：我们要测量某个物理量 。在相同的条件下，重复测量 次，得到的测量结果 可

4、能是不完全相同的，这些结果可以看作 个独立的随机变量 （它们服从同一分布，并且具有数学期望）的试验数值。于是，按大数定理可知：当 充分大时，我们 取 次测量结果 的算术平均值 ,作为 的近似值 , 所发生的误差是很小的。,切比雪夫大数定律的一个重要推论就是著名的伯努利大数定律,在 重独立试验序列中，设事件 发生的概率 。,定理5.3： （伯努利(Bernouli)大数定律）,则 对于 ，当试验次数 充分大，即 时,伯努利大数定律的结论表明：在n重独立试验中，当试验次数 充分大时，事件 发生的频率 与其发生概率 非常 接 近，但这种接近是概率意义上的接近，称为“事件A发生的 频率 依概率收敛于其

5、发生的概率 ”。,依概率收敛的定义： 设随机变量序列为 ， 为一个常数。若对于 ，有 则称序列 依概率收敛于常数 ，记为 。,证明：引入n重独立随机变量序列,设n次独立试验中，事件A出现的次数为 ， 显然， ， ，,由切比雪夫大数定理知：,伯努利大数定律，以严格的数学形式表达了频率的稳定性，就是说“当试验次数很大时，事件发生的频率与概率有较大偏差的可能性很小”。因此，它在实际应用中为“当试验次数很大时，用事件发生的频率代替事件发生的概率。”提供了理论依据；也为通过试验来确定事件的概率提供了方法，即“当试验次数较大时，可以用试验得到的事件发生的频率作为相应概率的估计”。,同时，由于“事件发生的频

6、率与概率有较大偏差的可能性很小”，伯努利大数定律还隐含着另外一个重要的事实：如果事件A的概率很小，那么事件A的频率 也一定很小。比如，我们设 ，则由伯努利大数定律知频率也非常接近0.001,即在1000次试验中只能期望事件A发生1次,发生的机会是很小很小的，在这1000次试验的某一次（个别）试验中，事件A的发生几乎是不可能的。为此，我们不妨这样总结这个事实：“概率很小的事件在个别试验中，实际上是不可能发生的。”通常称这一原理为：小概率事件的实际不可能性原理。,小概率事件的实际不可能性原理是统计推断中的基础依据，今后我们会经常引用它。,例5.2 从某工厂生产的产品中任取200件来检验，结果发现其

7、中有 6件次品。可是长期以来该工厂宣传称其产品合格率高达 99%以 上，问：其宣传的合格率可信否？,解：假使其宣传可信，即假设：次品率应小于等于1%.,问题是：用什么样的标准来衡量小概率事件呢？ 在实际应用中，一般若 （5%）对应的事件 就看作小概率事件。但是，实际应用中还必须考虑事件的性质。比如，生产一批零件出现废品的概率为0.05,如果零件的重要性不大,而且价格又较低,则忽略在100个零件中出现的废品数不超过5个有时是允许的;但如果制造的是一批药品等对安全性要求极高的产品或价值昂贵的物品,那么在这种情况下，即使忽略1%废品也是绝对不允许的,因为它有时会直接危害1%患者的生命或造成重大经济损

8、失。因此，对小概率事件的判别要视具体事件的性质而定。,伯努利大数定律是切比雪夫大数定律的特例，它们的证明都是以切比雪夫不等式为基础，都要求随机变量具有方差。事实上，可以证明“方差存在”这个条件并非必要的。下面我们不加证明地给出辛钦大数定律：,定理 5.4.（辛钦大数定律） 设独立随机变量序列 的数学期望都存在且相等即， ，则 对于 有,大数定律小结： (1)切比雪夫大数定律， 即 说明当 充分大时,算术平均值 将紧密地聚集在其期望 的附近,从理论上证明了算数平均值的稳定性. (2)伯努利大数定律： 说明在独立重复试验中,事件 发生的频率依概率收敛于 其生的概率,依严格的数学形式证明了频率的稳定

9、性,其中 隐含的“小概率事件的实际不可能性原理”是进行统计推 断的理论基础.,（3） 辛钦大数定律 表明：具有相同期望的独立随机变量序列的算术平均值 依概率收敛于其期望值，而与方差存在与否无关。 为测量中取算术平均值提供了理论依据。 显然伯努利大数定律是辛钦大数定律的特殊情形.。,依概率收敛与高等数学中的收敛是完全不同的概念,在高等数学中,序列 是确定性变量,其收敛于常数A,即. 用 语言表述为:对任给定的 ,可找到正整数, 对一切的 均有 成立且无一例外. 在概率论中,序列 是非确定性的随机变量序列,其依概率收敛于某一常数A,是指:对任给定 的,当 充分大时,随机事件发生的可能性很大,其概率

10、接近于1,即 ,但不管事件 发生的可能性多大并不能完全排除其对立事件 发生的可能性. 因此,相对而言依概率收敛比高等数学中普通意义下的收敛要弱些.,5.2 中 心 极 限 定 理,正态分布是概率论中最重要的分布。它是自然界中最常见的。在实际问题中经常遇到的许多随机变量都服从或近似服从正态分布，也就是说“服从正态分布的随机变量广泛存在”。,如何解释这种客观存在的规律性呢？中心极限定理，就从不同的侧面给出了“什么样的随机变量及其函数，服从正态分布或近似服从正态分布。”,概率论中关于论证“大量独立随机变量的和的极限分布是正态分布”的一系列定理 ，统称为“中心极限定理”。中心极限定理也是数理统计中关于

11、大样本统计推断的理论依据。,定理5.5： （独立同分布的中心极限定理 ） （Lindeberg-Levy林德柏格-列维 中心极限定理 ）,设 随机变量 相互独立，服从相同的分布，数学期望都存在且相等且方差全不为零，即 。,则 对于任何实数 ，有下式成立： 。,证明：略,依分布收敛的定义：,.,1,),(,),(,).,(,),(,),(,),(,),(,),(,).,(,),(,),(,lim,x,F,x,F,x,F,x,F,x,F,x,F,x,x,F,x,F,x,F,x,F,x,F,X,X,X1,L,n,n,n,n,n,n,緘,畗,緘,=,-,记为,依分布收敛于分布函数,称分布函数列,则,成

12、立,处均有,的连续点,若在,为一分布函数,的分布函数为,设随机变量序列,L,L,2,2, 结论分析 ,该定理的结论可写成：,说明：当 时， 依分布收敛于标准正态分布 。,反过来讲： 如果被研究的随机变量Y 可以表示为大量独立同分布的随机变量 的和Y = ，其中每个随机变量 对总和Y只起微小的作用，那么 ，可以认为这个随机变量Y 实际上是服从或近似服从正态分布 的。,比如：在进行某种观测时，不可避免地会有许多随机因素影响观测结果，产生误差。有些误 差是由测量仪器的精密度引起的 精密度可以在温度、大气压力或其它因素的影响下改变着。 有些误差是属于观测者的个人误差大都由于观测者的视觉、听觉等引起的。

13、等等。所有这些因素中的每一个都可能使观测结果产生很小的误差，然后由所有这些误差共同影响着观测结果。于是我们就得到一个“总的误差”。,因此，实际观察得到的误差可以看作是一个随机变量，它是许多数值微小的独立随机变量的总和。按“中心极限定理”：这个随机变量“总误差”应服从或近似服从正态分布。,例5.2： 设有30个电子元件 其寿命分别 为 ， 都服从参数 为 的指数分布， 即 。它们的使用情况如下： 当 损坏后立即使用 。 求：这批元件使用的 总计时间不小于 的概率？,由中心极限定理 :,说明：元件使用的总计时间 不小于 的概率近似 等于18.14% .,定理5.6 德莫弗-拉普拉斯(De.Moiv

14、re- Laplace) 中心极限定理 ,设:在独立试验序列中,事件A 发生的概率 , 随机变量 表示“事件A 在 次独立试验中发生的次数 ”.,则: 对于任何实数 有下式成立:,定理5.6表明: 当 充分大时,服从二项分布 的随机变量 近似地服从正态分布.,标准变换后的随机变量 近似服从标准正态分布.,例5.3: 设某车间有200台车床,相互独立地工作着.因换料、检修等原 因，每台车床的开工率为0.6,开工时耗电各为1千瓦. 问:供电所至少要给这个车间供多少电,才能以99.9%的概率保证这 个车间不会因为 供 电不足而影响生产?,解:对每一台车床的一次观察(开车或停车)看作是一次独立的试验.

15、,设: 表示 “ 200台车床中同时工作车床的总台数 ”，那么 按题意: 我们要找到一个正整数 ,使得,例5.4：从一大批废品率为3%的产品中抽取1000个， 用中心极限定理，求废品数x 在20至40之间的 概率。,由中心极限定理：,例5.6：某保险公司多年的统计资料表明，在索赔户中因被盗索赔的占 20%，以 表示在随机抽查的100户中因被盗向保险公司索赔的 户数。(1) 写出 的概率分布；2） 用中心极限定理计算.,中心极限定理小结 :,中心极限定理论证了“大量原本不服从正态分布的独立随机变量的和的分布近似地服从正态分布”.一般说来,这些随机变量受大量独立的因素影响,而每项因素的影响是微小的,并且没有一项因素的影响是特别突出时,我们就可以断言,其和的分布渐近于服从正态分布.中心极限定理也是数理统计中关于