随机变量序列的收敛性及其相互关系

1、长江大学毕业论文题 目 名 称 随机变量序列的收敛性及其相互关系院 （系） 信息与数学学院 专 业 班 级 信计11001班 学 生 姓 名 傅志立 指 导 教 师 李 治 辅 导 教 师_ 李 治_ 摘要：概率极限理论不仅是概率论的重要组成部分，而且在数理统计中有广泛的应用。本文主要对a.e.收敛、依概率收敛、依分布收敛、r阶收敛四种随机变量序列的概率和收敛性性质进行阐述；并结合具体实例讨论了它们之间的关系，进一步对概率论中依分布收敛的等价条件和一些依概率收敛的弱大数定律进行了具体的研究.目录1. 引言2. a.e.收敛、依概率收敛、依分布收敛、r阶收敛的概念、性质及其相互关系.2.1 a.

2、e.收敛的概念及性质2.2 依概率收敛的概念及性质2.3 依分布收敛的概念及性质2.4 r-阶收敛的概念及性质2.5 结论3. 随机变量序列依分布收敛的等价条件4. 随机变量依概率收敛的一些结果5. 小结6. 参考文献1.引言：在数学分析和实变函数中“收敛性”极为重要，特别在实变函数中对可测函数列收敛性的讨论。实变函数主要是在集合论与测度论的基础上建立起了Lebesgue积分以及它的一些性质，而Lebesgue积分的讨论中，在测度空间中关于可测函数列的各种收敛性以及它们之间的关系的讨论在理论和应用上都是十分重要的.同样在现代概率论中，其中的许多概念也是借助于集合论和测度论中的概念来定义和研究的

3、，比如概率论中事件间的关系及运算与集合论中代数间的关系及运算是相类似的，而且在许多情况下，用集合论的表达方式更简练、更容易理解，不妨设为满足某一性质的全体所成的集合，若F为的一个代数，则称为可测空间；若为F上的测度，则称为测度空间；若为F上的测度，且，则称为F上的概率测度，称为概率测度空间；由此我们通过测度论知识就得到了概率测度空间，同时引出了概率公理化定义：概率是在代数F上的一个非负的、规范的、可列可加的集函数，其中为某一试验中可能的结果的全体,称为样本空间；F为随机事件全体，称为事件域（代数）；也就是说概率P是概率测度空间F上的一个测度集函数，同实变函数中的可测函数列收敛性一样，在概率论中

4、我们有必要研究随机变量序列的收敛性，这对于概率论的学习是十分重要的.2.a.e.收敛、依概率收敛、依分布收敛、r阶收敛的概念、性质及其相互关系.在概率论中，概率空间上的随机变量就是样本空间上关于F的可测函数，对于一般的可测函数的序列我们在数学分析和实变函数中已有认识，其中“收敛性”理论是非常重要的，在概率论中也一样重要，随机变量序列有：几乎处处收敛，依概率收敛，依分布收敛，r阶收敛。2.1 a.e.收敛的概念及性质定义 1 设 是一可测函数序列，是可测函数，若存在N.A,N=0,使得对于每一Nc有() (),(n)则称几乎处处收敛于，记作 a.e.如果对于每一Nc， - ()0,(m,n)则称

5、几乎处处相互收敛，记作- a.e.0.定理 1 a.e.（某一）（n）的充分必要条件是- a.e.0(m,n).证: 利用性质a.e.， gna.e. ,a.e.,g=f,a.e.,则gna.e. g.,假设，f皆有限，则存在N.A,N=0，当Nc时() ()，利用Cauchy准则，- 0(m,n)，即- a.e.0.反之，若- a.e.0，则存在一M.A,M=0，当Mc时，- 0(m,n)，根据Cauchy准则，存在一个有数a,使() a(n)令 =a0，McM 则 a.e.且f是一有限可测函数。f的可测性是由于Mc是可测函数序列，且对一切有() Mc() ()，（n），即f是可测函数序列的

6、极限，因而可测。2.2 依概率收敛的概念及性质定义 2 设Xn为一随机变量序列，X为一随机变量，如果对任意的，有P（|Xn-X|）0(n),则程序列Xn依概率收敛于X，记作XnpX. 依概率收敛的含义是：Xn对X的绝对偏差不小于任意给定的可能性将随着n的增大而越来越小。等价于P（|Xn-X|<）1(n).特别当X为退化分布是，即P(X=c)=1,则称序列Xn依概率收敛于c，即Xnpc定理 2 设Xn，Yn是两个随机变量序列，a,b是两个常量。如果Xnpa ,Ynpb,则有（1）Xn±Ynpa±b;(2) Xn×Ynpa×b；(3) Xn÷

7、Ynpa÷b;证明 （1）因为|（Xn+Yn）-（a+b）|（|Xn-a|2）（|Yn-b|2）所以 0P（|（Xn+Yn）-（a+b）|）PXn-a2+PYn-b20 (n)，即P（|（Xn+Yn）-（a+b）|<）1，由此得Xn+Ynpa+b，类似可证Xn-Ynpa-b. （2）i）若Xnp0，则有Xn2p0.这是因为对任意，有PXn2= PXn0 (n).ii）若Xnpa，则有cXnpca.这是因为对任意c0，有P|cXn-ca|= PXn-a|c|0 (n).而当c=0时，结论显然成立。iii）若Xnpa，则有.这是因为有以下一系类结论：Xn-ap0， （Xn-a）2p

8、0， 2a（Xn-a）p0，（Xn-a）2+2aXn-a=Xn2-a2p0， 即Xn2pa2iv）由iii）及（1）知Xn2pa2， Yn2pb2， （Xn+Yn）2p（a+b）2.从而有 Xn×Yn=12【（Xn+Yn）2-Xn2-Yn2】p12【（a+b）2-a2-b2】=ab（3）为了证明Xn/Ynpa/b，我们先证：1/Ynp1/b,这是因为对任意，有P（|-1b|）=P（|Yn-bYnb|）=P（|Yn-bb2+b（Yn-b）|，|Yn-b|<）+ P（|Yn-bb2+b（Yn-b）|，|Yn-b|）P（|Yn-b|b2-|b|）+P（|Yn-b|）=P（|Yn-b|

9、（b2-|b|）+ P（|Yn-b|）0 (n)这就证明了1/Ynp1/b，再与Xnpa结合，利用2即得Xn/Ynpa/b.2.3依分布收敛的概念及性质定义 3 设随机变量X,X1，X2，的分布函数分别为F(x)，F1（x），F2（x），。若对F(x)的任一连续点x，都有limnFn（x）= F(x)，则称Fn（x）弱收敛于F(x)，记作 Fn（x）wF(x).也称Xn按分部收敛于X，记作 XnLX.定理 3 XnpX XnLX.设随机变量X,X1，X2，的分布函数分别为F(x)，F1（x），F2（x），。为证 XnLX，相当于证Fn（x）wF(x)，所以只需证：对所有的x，有F(x-0)li

10、mF(x)Fn（x）limnFn（x）F(x+0). （a）因为若上式成立，则当x是F(x)的连续点时，有F(x-0)=F(x+0)，由此即可得Fn（x）wF(x)为证（a）式成立，先令x'<x，则Xx'= Xnx，Xx' Xn>x，Xx'Xnx |Xn-X |x-x',从而有F(x') Fn（x）+P（ |Xn-X |x-x'）.由 XnpX，得P（ |Xn-X |x-x'）0 (n).所以有F(x') limF(x)Fn（x）.再令x'x，即得 F(x-0)limF(x)Fn（x）.同理可证，当x&

11、#39;'>x时，有 limnFn（x）F(x'').令x''x，即得 limnFn（x）F(x=0).定理4 若c为常数，则 Xnpc的充要条件是： XnLc.证明：（必要性）已由定理3给出，下证（充分性）：记 Xn的分布函数为Fn（x）=n=1,2，因为常数c的分布函数为对任意的，有P（| Xn-c|）=P（ Xnc+）+P（ Xnc-）P（ Xn>c+/2）+P（ Xnc-）=1-Fnc+/2+Fn（c-）.由于x= c+/2和x= c-均为F(x)的连续点，且Fn（x）wF(x)，所以当(n)时，有Fnc+/2F(c+/2)=1， F

12、nc-F(c-)=0.由此得 P（| Xn-c|）0 即 Xnpc。引理 1 （马尔科夫Mapkob不等式）设随机变量有r阶绝对矩，即E|r<,(r>0),则对任意>0有 P（|）E|rr. （1.4） 取r=2，并-E以代替，得P（|-E|）D2，称为切比雪夫不等式2.4 r阶收敛的概念及性质定义 4 设对随机变量n及有E|r<，其中r>0为常数，如果limnE|n-|r=0, 则称nr-阶收敛于，记为 nr.定理 5 如果 nr，则 np；反之不真.证明：由引理1，对，有P(|-E|) E|n-|rr，又limnE|n-|r=0，所以limnP(| n-|)=

13、0，即得 np.2.5结论由上面四种收敛性的概念及性质间可得关系：几乎处处收敛依概率收敛依分布收敛.阶收敛依概率收敛依分布收敛.阶收敛依概率收敛依分布收敛几乎处处收敛3.随机变量序列依分布收敛的等价条件. 因为随机变量取值的统计规律可由它的分布函数完全确定，所以自然会考虑利用分布函数的收敛性来定义随机变量的收敛性，又分布函数和特征函数一一对应，而判断一个分布函数的序列的收敛是否弱收敛有时是很麻烦的，但判断相应的特征函数序列的收敛性却往往比较容易，下面给出弱收敛的充要条件，首先做一些准备：定理 6 设均为分布函数，则的充要条件是：对于函数的连续点集的某个稠子集有. （2.1）证明：由立得必要性.

14、下设（2.1）式成立.对任何,取且则有 .令，用（2.1）式得.再令便得证，即.引理 2 （海来Helly第一定理）任一分布函数列必定含弱收敛于某函数的子列，而且单调不减，右连续，.注：在引理2中不能断定海来第一定理中的是分布函数.事实上，取，则对任应的分布函数,极限函数不是分布函数.引理 3 （海来Helly第二定理）设分布函数列弱收敛于分布函数，则对任何有界连续函数有. （其中分别是的密度函数）.定理 7 （连续性定理）分布函数列弱收敛到分布函数的充要条件是：相应的特征函数列逐点收敛到相应的特征函数.证明：令分别是的密度函数.（必要性）：设，对有界连续函数分别用引理3便得，当时对一切有 .

15、（充分性）据引理2知，分布函数列必存在子序列，使当时.其中极限函数是上非减右连续函数且有界：.下证此二式均取等号，即为分布函数.如若不然，有. （2.2）那么，一方面由及连续知，对满足的任意，存在充分小的正数，使.另一方面，既然，由（2.1）式知可选取，使与皆为的连续点，且存在自然数，使当时有. （2.3）再由及时有，便可得到这与（2.3）式矛盾.至此得证的子列弱收敛到分布函数.对此运用已证的必要性，知所对应的特征函数为.再由极限函数的唯一性定理可推出.最后证明分布函数列也弱收敛到.仍然用反证法.如若不然，必存在的连续点，使不趋于.于是有界数列必含收敛子列.其极限值.对分布函数序列运用引理2，

16、又存在子列使.与前述至少在上不同.但是重复上述论证可知也应当是与对应的分布函数，由唯一性定理知，这导出矛盾.定理证完.下面给出弱收敛的各种等价条件：如果存在一个函数，使对每一,有，则称特征函数列为广义均匀收敛到，而且这收敛对每一有限区间中的是均匀的（即对任意，任意有限区间，存在正整数，使对一切，当时 ，有），这时也说广义均匀（一致）收敛.注：由于连续，如广义均匀收敛到，则必定是连续函数.系1 设分布函数列对应的特征函数列为，则下列四条件等价：（1）弱收敛于某分布函数，（2）收敛到某函数，在点0连续，（3）收敛到某连续函数，（4）广义均匀收敛到某函数.当任一条件满足时，是的特征函数.下面说明系1

17、中等价条件（2）中“在的连续性”是不可缺少的条件.例6 设 .是一列特征函数.实际上，其中 是分布函数 （2.5）的密度函数.显然，对任意，这里，在0点不连续，也不是特征函数.另外对于（2.5）中，极限函数不是一分布函数.至此我们可将随机变量序列的四种收敛性间的蕴含关系总结如下：几乎处处收敛依概率收敛分布函数的弱收敛 r阶收敛 特征函数逐点收敛4.随机变量依概率收敛的一些结果在概率论，我们用“频率的稳定性”引出概率这个基本的概念.许多试验结果表明，虽然一次随机试验中某确定事件发生与否不能预言，但是如果在相同条件下大量重复这个试验，则此事件发生的频率会稳定在某个值的附近.这说明，在一定条件下各事

18、件出现的可能性的大小是客观存在的，可以用上述频率的稳定值来度量，这就是事件的概率.频率的稳定性呈现在大量重复试验中，历史上把这个试验次数很大时出现的规律称作大数定律.后来我们引入了伯努利概型来刻画独立重复试验.将一成功（即A发生）概率为p的试验独立重复n次，其中成功次，则是二项分布随机变量.因此成功的频率也是随机变量.其期望为p与n无关，且方差当时趋于0.熟知，方差为0的随机变量恒等于它的期望，所以当时频率应以概率p为极限.另一方面，可以写，其中相互独立，具有相同的伯努利分布，至此，问题转化为研究时的平均值序列的极限行为.鉴于已在上面讨论过随机变量列的各种收敛性，因此我们可以给出大数定律的严格

19、定义.定义5 设为随机变量序列，它们都有有限的数学期望.如果, （3.1）则称满足大数定律.定理8 （马尔科夫大数定律）设是方差有限的随机变量序列，如果有. （3.2）则满足大数定律.证明：由切比雪夫不等式及（3.2）式立得，对任意的有，即得证（3.1）式成立，定理得证.注：将称为马尔科夫条件，由定理8知它是大数定律成立的一个充分条件.定理9（切比雪夫大数定律）若序列两两不相关且方差有界：，则满足大数定律.证明：在所给条件下，（3.2）式的左方.即马儿科夫条件满足,从而大数定律成立.定理 10 （伯努利大数定律）设为n重伯努利试验中事件A出现的次数，又A在每次试验中出现的概率为,则对任意的，有.证明：令则是n个相互独立的随机变量，且.满足切比雪夫大数定律条件，从而大数定律成立.注：此定理就是“频率以概率为其稳定值”的严格刻画.马尔科夫大数定律的重要性在于对已经没有任何同分布、独立性、不相关的假定.切比雪夫大数定律可以看成是马尔科夫大数定律的特例，伯努利大数定律是切比雪夫大数定律的特例，下面介绍一个随机变量序列独立同分布时的大数定律：定理 11（辛钦大数定律）设是一列独立同分布的随机变量，且数