概率论中几种具有可加性的分布及其关系.doc

概率论中几种具有可加性的分布及其关系目 录摘要1关键词1Abstract1Key words1引言11 几种常见的具有可加性的分布1 1.1 二项分布2 1.2 泊松分布（分布）3 1.3 正态分布4 1.4 伽玛分布 6 1.5 柯西分布 7 1.6 卡方分布 72 具有可加性的概率分布间的关系 8 2.1 二项分布的泊松近似 8 2.2 二项分布的正态近似 9 2.3 正态分布与泊松分布间的关系10 2.4 正态分布与柯西分布、卡方分布及卡方分布与伽玛分布的关系113 小结 12参考文献 12致谢 13概率论中几种具有可加性的分布及其关系摘要 概率论与数理统计中概率分布的可加性是一个十分重要的内容.所谓分布的可加性指的是同一类分布的独立随机变量和的分布仍属于此类分布.结合其特点，这里给出了概率论中几种具有可加性的分布：二项分布，泊松分布，正态分布，柯西分布，卡方分布以及伽玛分布.文章讨论了各类分布的性质及其可加性的证明，这里给出了证明分布可加性的两种方法，即利用卷积公式和随机变量的特征函数.除此之外，文章就可加性分布之间的各种关系，如二项分布的泊松近似，棣莫佛-拉普拉斯中心极限定理等，进行了不同层次的讨论.关键词 概率分布 可加性 相互独立 特征函数Several Kinds of Probability Dstribution and its Relationship with AdditiveAbstract Probability and mathematical statistics in the probability distribution of additivity is a very important content.The distribution of the so-called additivity refers to the distribution of the same kind of independent random variables and distribution are still belong to this kind of distribution.Combined with its characteristics, here given several has additivity distribution in probability theory: the binomial distribution, poisson distribution and normal distribution and cauchy distribution, chi-square distribution and gamma distribution.Article discusses the nature of all kinds of distribution and its proof of additivity, additive of proof distribution are also given two methods, namely using convolution formula and characteristic function of a random variable. In addition, this paper the relationships between the additive property distribution, such as the binomial distribution of poisson approximation, Di mo - Laplaces central limit theorem, and so on, has carried on the different levels of discussion.Key Words probability distribution additivity property mutual independence characteristic function引言 概率论与数理统计是研究大量随机现象的统计规律性的学科，在概率论与数理统计中，有时候我们需要求一些随机变量的和的分布，在这些情形中，有一种求和类型比较特殊，即有限个相互独立且同分布的随机变量的和的分布类型不变，这一求和过程称为概率分布的“可加性”.概率分布中随机变量的可加性是一个相当重要的概念，本文给出了概率论中常见的六种具有可加性的分布，包括二项分布，泊松分布，正态分布，伽玛分布，柯西分布和卡方分布.文章最后讨论了几项分布之间的关系，如二项分布的泊松近似，正态近似等等.1 几种常见的具有可加性的分布在讨论概率分布的可加性之前，我们先来看一下卷积公式和随机变量的特征函数,首先来看卷积公式1： 离散场合的卷积公式 设离散型随机变量彼此独立，且它们的分布列分别是和则的概率分布列可表示为 连续场合的卷积公式 设连续型随机变量彼此独立，且它们的密度函数分别是，则它们的和的密度函数如下 其证明如下： 的分布函数是 其中为的分布函数，对上式两端进行求导，则可得到的密度函数： 即证.在概率分布可加性的证明中，除了卷积公式，我们常用的证明方法还有利用随机变量的特征函数.下面我们来讨论一下这几种具有可加性的分布及其可加性证明的过程中卷积公式和特征函数的应用.1.1 二项分布1.1.1 二项分布的概念 如果记为n次伯努利试验中成功（记为事件A）的次数，则的可能取值为0，1，2，n.记p为事件A发生的概率，则记为即因n次伯努利试验的基本结果可以记作=（w1,w2，n），wi或为或为,这样的w共有2n个，这个样本点w组成了样本空间.下求的分布列，即求事件的概率.若某个样本点=（w1,w2，n），意味着w1,w2，n中有个，个，由独立性即可得:()而事件=中这样的w共有个，所以的分布列为=（1-p），此分布即称为二项分布，记作.且我们易验证其和恒为.也就是=.n=1时，二项分布称为两点分布，有时也称之为分布. 二项分布的图像具有以下特点： 二项分布的图像形状取决于和的大小，随着的增加，分布图高峰逐渐右移. 当时，图像是对称的.1.1.2 二项分布的可加性定理1.1.1设而且相互独立，记则有 证明 因所以易知可以取等个值.根据卷积公式，事件的概率可以表示为 又因所以 也就是说，即证！1.2 泊松分布分布与二项分布一样，泊松分布也是一种离散分布，许多随机现象，特别是社会现象与物理学中的一些随机现象都服从于泊松分布.泊松分布可作为描述大量试验中稀有事件出现次数的概率分布的数学模型.1.2.1 泊松分布的概率分布列 泊松分布的概率分布如下所示： ，其中大于，记作.对于泊松分布而言，它的参数即是期望又是它的方差： . 又因， = = =故的方差为=1.2.2泊松分布的可加性 定理1.2.1 设随机变量，且相互独立，则 证明 此处根据卷积公式，有 所以即证！ 同样我们可以利用特征函数对其进行证明，此处不再赘述.1.3 正态分布 1.3.1 正态分布的定义6定义1.3 对于已经给定的两个常数和0，定义函数 它含有两个参数和.显然的，取正值.我们称密度函数为的分布为正态分布，记作，它的分布函数记为 正态分布的密度函数的图像是一条钟形曲线，中间高两边低，而且关于对称，在此处取最大值我们称为该正态分布的中心，在附近取值的可能性比较大，在处有拐点.若将固定，改变的取值，则越大，曲线峰顶越低，图像较为平坦；越小，曲线封顶越高，图像较为陡峭.因此正态密度函数的尺度由确定，故称为尺度参数.同样的，将固定，而去改变的值，会发现图像沿轴平移而并不改变形状，也就说明该函数的位置由决定，故称其为位置参数.当时的正态分布称为标准正态分布，记作.它的密度函数记为，分布函数记为.则有 1.3.2 一般正态分布的标准化 对于正态分布族 标准正态分布只是其中一个成员.其实在应用中很少有随机变量恰好服从标准正态分布，可是一般正态分布均可以利用线性变换转变成标准正态分布.所以一切与正态变量有关的事件的概率均可通过标准正态分布分布求取. 定理1.3.1 如果随机变量，则，其中为标准正态变量.证明 记与的分布函数分别为和，易知因为正态分布函数严格递增而且处处可导，所以如果记和的密度函数分别是和，会有 由此即得， 即证.对于标准正态随机变量的数学期望为 因被积函数为奇函数，故上述积分值为0，也就是说而对于一般正态变量，如果满足，由数学期望的线性性质则可得到所以我们可以知道正态分布的数学期望即为其参数.因为 且,由方差的性质 也就是说，正态分布的方差即是其另一个参数1.3.3 正态分布的可加性定理1.3.2 设随机变量而且和彼此独立，且则有证明 知服从于正态分布，且它们的密度函数分别是 又因彼此独立，所以 这正是数学期望为方差为的正态分布的特征函数，即证！我们同样可以使用连续场合的卷积公式进行证明，详见文献5，此处不再赘述.1.4 伽玛分布在讨论伽玛分布之前，我们先来看一下伽玛函数：我们称 为伽玛函数，为其参数.它的性质如下： 取自然数的时候，有 1.4.1 伽玛分布的定义定义1.4 如果随机变量的密度函数为 就称作服从伽玛分布，记为且的值均大于0.为伽玛分布的形状参数，为其尺度参数.当时，为严格单调递减的函数，在处取得奇异点； 当时，亦严格单调减，且时有 当时，为单峰函数，先上凸然后下凸； 当时，先下凸再上凸，最后下凸.而且随着的增大，逐渐接近于正态分布的密度函数.1.4.2 伽玛分布的可加性定理1.4.1 设随机变量且和彼此独立，则证明 知 且与彼此独立，所以 此即为的特征函数，根据惟一性定理则可知结论得证！ 如正态分布，对于伽玛分布，我们同样可以利用连续场合的卷积公式对其可加性进行证明，详见文献5; 1.5 柯西分布41.5.1 柯西分布的密度函数柯西分布是几个常见的连续分布之一.它的密度函数为 时的柯西分布密度函数称为标准柯西分布密度函数，即 为方便起见，往后我们分别记这两类密度函数为和对于柯西分布的数学期望和方差，因 所以不收敛，故柯西分布的数学期望与方差均不存在.1.5.2 柯西分布的可加性定理1.5.1 设随机变量且彼此独立，则有 证明 因均服从于柯西分布，且的特征函数分别是 又因彼此独立，所以 这恰好就是参数为的柯西分布的特征函数，所以即证！1.6 卡方分布（分布）1.6.1卡方分布（分布）的定义及密度函数定义1.67 设独立同分布与标准正态分布分布则称所服从的分布为自由度为的卡方分布，记为卡方分布的密度函数为 1.6.2 卡方分布可加性 卡方分布密度函数的图像是一个只取非负值的偏态图像.它的图像随着自由度的增加而逐渐趋于对称，当自由度时，其图像趋于正态分布的图像.这也从另一个侧面告诉我们，卡方分布是由其自由度决定的，不同的自由度对应了不同的卡方分布.由1.6.1，我们可以知道卡方分布即伽玛分布的一个特例，所以由伽玛分布的可加性我们易知卡方分布亦满足可加性定理，即定理1.6.15 设且彼此独立，则有 证明 由卡方分布的定义，设 且彼此独立.则有， 从从卡方分布的定义，因此即证！2 具有可加性的概率分布间的关系2.1 二项分布的泊松近似4当的取值很大时，二项分布的计算是令人头疼的.这里介绍了泊松分布的一个十分有用的特性，我们可利用泊松分布作为二项分布的一种特殊近似，即二项分布的泊松近似.下面我们来看泊松定理，当取值较大，而取值偏小的情况下使用泊松定理，可大大减小二项分布的计算量.定理2.18（定理) 在重伯努利试验中，记事件在每次试验中发生的概率为它与试验发生的次数有关，若当时，有即则对任意给定的（为非负整数），有 证明 设则有所以 由已知有，则对于给定的值，有且 ； 所以有 即证！因定理的条件之一为所以在二项分布的计算中，若值很大，的值却很小，且的大小适中时（一般认为当且时），二项分布可以使用参数为的泊松分布来做近似，即有 此即为二项分布的泊松近似，而且的值应尽可能的大，这样计算结果才能更精确.二项分布的泊松近似经常被用于稀有事件（即每次试验中事件发生的概率很小）的研究中，大量实例表明，一般情况下概率时，泊松近似非常好用，甚至的取值不必很大.2.2 二项分布的正态近似 定理2.27（棣莫佛-拉普拉斯（ ）极限定理） 设随机变量（），则对任意的实数，有 证明 因随机变量服从二项分布，所以可看做是个相互独立的且服从于同一参数的两点分布的随机变量的和，即而且 根据中心极限定理，有 定理得证！ 中心极限定理说明，相当大时，服从二项分布的随机变量的概率的计算服从正态分布的随机变量的计算.也就是说，二项分布可以用正态分布来近似计算.比如，在比较大的时候的计算量时十分大的.根据 中心极限定理，因 近似服从于标准正态分布，或者说是近似服从于分布，也就是说 对于有 我们只需查一下标准正态分布表，就可以求出我们需要的相当精确的值.但是，当较大或者较小时近似效果可能差一些，利用公式时的值最好满足另外，因二项分布是离散分布，正态分布是连续分布，所以在我们实际的应用中，为减小误差，常常使用 来替换式.2.3 正态分布与泊松分布之间的关系9由上面的定理2.1和定理2.2我们可以知道，二项分布可以用泊松分布来做近似，同样也可以用正态分布来近似.所以，从某个方面来说，泊松分布与正态分布也具有某种近似的关系，首先我们来看特征函数的连续性定理. 定理2.3.111 分布函数列弱收敛于分布函数的充分必要条件是它的相应的特征函数列收敛于的特征函数定理2.3.211 设随机变量则有证明 知服从泊松分布，则的特征函数为所以的特征函数是对于任何一个我们有所以有 因此对于任意的点列有又知是标准正态分布的特征函数，因此由连续性定理可以得到， 由的任意性，所以有成立. 我们来看泊松分布的正态逼近. 定理2.3.38 对于任意的有 其中其证明见文献8. 由前可知，的正态近似与泊松近似的条件是不同的，当的取值特别小时，哪怕的值不是太大，用泊松分布来近似二项分布也是可以的.但在这种情况下，用正态近似却是不合理的.我们可以想象，若值很小，但的值也不是太大，则的值肯定不会很大，而由定理2.3.1，我们可知，此时正态分布就不可能很好的进行泊松近似.2.4 正态分布与柯西分布、卡方分布及卡方分布与伽玛分布之间的关系 首先来看正态分布与柯西分布的关系. 定理2.4.1 设且与独立同分布，记,则.证明 易知的取值范围是，所以对于，我们利用商的公式，可以得到 这正是时的柯西分布的密度函数，所以结论得证！正态分布与卡方分布的关系如下：定理2.4.2 若随机变量则定理证明见文献10.这说明了标准正态分布与自由度为1的卡方分布之间的关系.若且彼此独立，记，根据卡方分布的定义，我们知服从自由度为的卡方分布.对于伽玛分布，当其参数时即为自由度为的卡方分布，记为 3 小结 文章第一部分我们讨论了六种具有