统计学中的几种统计推断方法

1、GUIZHOU UNIVERSITY结课论文报告课程名称年级2011级专业统计111学生姓名学号 1107010270指导老师 戴老师理学院统计学中的几种统计推断方法数理统计的基本问题是根据样本所提供的信息，对总体的分布以及分布的数字特征 作出统计推断。统计推断的主要内容分为两大类：一是参数估计问题，另一类是假设检 验问题。本篇文章主要讨论总体参数的点估计、区间估计和假设检验。一、点估计1、矩估计首先讲“矩”的概念，定义：设X是随机变量，k是一正整数，若EXk存在，则称EXk为随机变量X的k阶原点矩，记为匕；若存在，则称它为X的k阶中心矩，记为气。显然，数学期望EX就是1阶原点矩，方差DX就是

2、2阶中心矩。简单的说就是用样本矩去估计相应的总体矩，用样本矩的连续函数去估计相应的总 体矩的连续函数。矩估计法的理论基础是大数定理。因为大数定理告诉我们样本矩依概 率收敛于总体的相应矩，样本矩的连续函数依概率收敛于相应总体矩的连续函数。我们通常样本的均值X去估计总体的均值EX :即总体为X时，我们从中取出n个样本X1,X2, X疽我们认为总体的均值就是X =1 1Lxi，(当然这只是对总体均值的一 =1种估计，当然会有误差)当EX 2存在的时候，我们通常用1 8x,2作为总体X的EX 2的估计 =1一般地，我们用1 x：作为总体X的EXk的估计，用18(X,-加作为总体的 n i=1n i=1

3、E(X - EX)k的估计。例：设总体X在a,b上服从均匀分布，参数a,b未知，X 1, X2, X是一个样本， 求a,b的矩估计量。解：由矩估计法知道：EX = ；由于 DX = EX2 - (EX)2，因U匕EX2 = DX + (EX)2 = (b；)2 + (a 了)2用矩估计法，也即用 X = 1 X.作为EX的估计， 用1 X.2作为EX 2的估计，n i=1n i=1为了计算方便，我们记A =1 X.,记 A =1 x. 2n i=1n i=1即有哮=A1，EX 2 = 51 + 51 = A1242a + b = 2 A1b-a =、.12(A -A2)21再联立解关于a,b的

4、方程组得a,b的矩估计量分别为a = A1 - J3(A2 - A,) = X -3 ( x厂 X)2i=1b = R + J3(A? - A) = X +! (X厂 X )2i=12、极大似然估计 对于连续型总体X，设它的密度函数为f 3;。近,6 )，其中6 ,6 , 6是需要 m12 m估计的未知参数。设X 1, X2, X是来自总体X的一个样本，则X 1, X2,Xn的联合密度函数为:f!f (x ;6 ,6 , 6 )i 12 mi=1对于给定的一组样本值X ,x , x，记联合密度12 nL = L(x ,x , x ;6 ,6 , 6 ) = Hf (x ;6 ,6 , 6 )1

5、2 n 12 mi 12 mi=1则称L为样本的似然函数若X为离散型总体，它的概率分布为:P X = x = p(x;6 ,6 , 6 )12 m对于给定的一组样本观测值X ,X , X，记联合密度 TOC o 1-5 h z 12 nL = L(x ,x , X ;0 ,0 , 0 ) =H p(x ;0 ,0 , 0 )12 n 12 mi 12 mi=1则称L为样本的似然函数-具体求法对于已经给定的样本观测值x ,x ,X来说，似然函数L是关于待估计的参数12 n0 ,0 , 0的函数，因此我们应该想办法通过似然函数L求出参数0 ,0 , 0值。12 m12 m这里我们求法的思想来源于多

6、元函数求极大值：也即，我们把L = L(x ,x , x ;0 ,0 , 0 )看作关于0 ,0 , 0的多元函数，我们要12 n 12 m12 m求得适当的0 ,0 , 0的值，使得L = L(X:X , x ;0 ,0 , 0 )取最大值。12 m12 n 12 m解释：实际上. L = L(x ,x , x ;0 ,0 , 0)表示随机变量X ,X , X取得样本值12 n 12 m12 nX ,X , X时的联合概率，我们在一次试验中事件(X ,X , X ) = (X ,X , X )已经发生，12 n12 n12 n我们就有理由认为，参数必须保证此时的概率最大，也即:参数(002；

7、0”)的值应该是使得L = L(x ,x , X ;0 ,0 , 0 )最大的点。12 n 12 m这样我们的方法就是多元函数求极大值的方法。极大似然估计的具体步骤为：求出似然函数L = L(x ,x , x ;0 ,0 , 0 )；12 n 12 m计算关于(0 ,0 , 0 )的函数L = L(x；X , X ;0 ,0 , 0 )的极大值点，12 m12 n 12 m我们由微积分的知识知道，实际问题中的极大值点就是函数的驻点，也就是每个偏导数都为0的点，即&八矿01竺=0，80(一般称该方程组为似然方程组)2但是在实际计算中，由于l = L(x,x , x ;6 ,6 , 6 )都是乘积

8、，因此以上方程组求 TOC o 1-5 h z 12 n 12 m解不太容易，这时候我们由微积分的知识知道到函数L = L(x ,x , x ;6 ,6 , 6 )和它的12 n 12 m对数函数lnL = InL(x ,x, x ;6 ,6 , 6 )有相同的极大值点，因此匕我把问题转化为求 12 n 12 mlnL = InL(x ,x , x ;6 ,6 ； 6 )的极大值点，这样把乘积问题转化为了和差问题，在某 12 n 12 m些复杂问题中可以大大减轻计算！何ln L八=086 1公=0 86(一般称该方程组为对数似然方程组). 2 :辛=0、86 m求解这个方程组即得到上个步骤求出

9、的(6 ,6 , 6 )就是参数(6 ,6 , 6 )的估计值。12 m12 m二、区间估计由于总体的未知参数6的估计量6(XX2，X)是随机变量，无论这个估计量的性 质有多好，通过一个样本值(x, x所得到的估计值，只能是未知参数6的近似值， 而不是6的真值。并且样本值不同所得到的估计值也不同。那么6的真值在什么范围内 呢？能不能通过样本，寻找一个区间，以一定的把握包含总体未知参数6呢？这就是总 体未知参数的区间估计问题。区间估计严格的定义为：定义：设总体X的分布函数F(x,6 )含有一个未知参数6，对于给定值a (0 a 1)，若 TOC o 1-5 h z 由样本(X ,X , X )确

10、定的两个的两个统计量6 (X ,X , X )和6(X ,X , X )满足 12 n112 n12 nP6 (X ,X , X ) 6 6 (X ,X , X) = 1 -a112n212n则称随机区间(61,62)是参数6的置信度为1-a的置信区间，60口62分别趁称为置信度为1 -a的双侧置信区间的置信下限和置信上限，1 -a称为置信度。单个正态总体的的数学期望和方差的区间估计是我们重点要求掌握的知识点，大家 可以好好阅读教材第189198面，实际上课本把这种区间估计分各种情形的结论总结 成了第209面的表格。大家在理解这些区间估计的实质后，应该把表格的结论和公式记 住，往往在实际解题的

11、时候我们只需要套用这些结论就可以了！三、假设检验所谓假设检验，顾名思义就是先假设再检验，实际上有点类似于反证法，在实际问 题中我们往往需要对未知总体提出某中假设或推断，但是我们的假设可能是错的，也可 能是正确的，这时候我们就需要利用一个抽样的样本（七,号 七），通过一定的方法，检 验这个假设是否合理，从而作出接受或者拒绝这个假设的结论。假设检验的基本原理是一一小概率事件原理，也即：我们认为小概率事件在一次试 验中几乎不可能发生，如果我们在抽取的样本观测值（七,七，七）下，居然使得小概率事 件发生了，我们就有理由否定原假设。在明确一个假设检验问题的性质与基本前提（包括分布类型是否已知，如果类型已 知，分布中包含哪些未知参数等等）之后，假设检验的一般步骤如下： 充分考虑和利用已知的背景知识提出原假设H0以及对立假设气； 给定样本，确定合适的检验统计量，并在H0为真下导出统计量的分布（要求此 分布不依赖与任何未知参数）；确定拒绝域：即依直观分析先确定拒绝域的形式，然后根据给定的显著性水平a 和以上统计量的分布由条件概率尸拒绝H0I H0为真 =a确定拒绝域的临界值，从而确定 拒绝域；作出判断：由一次具体抽样的样本值计算统计量的值，若统计