概率论与数理统计课件第7章-参数估计

第七章

参数估计

第六章介绍的抽样分布已为讨论统计推断打下了必要的理论基础。若总体的分布类型已知，而其中的某些参数未知，对这些未知参数做出推断，这类问题称为参数估计。例如对均匀分布[0,α]中的参数中的参数α进行估计.§7.1点估计这类问题称为点估计.一般提法:X1,X2,…,Xn.要依据该样本对参数作出估计，或估计的某个已知函数.现从该总体中抽取样本设有一个统计总体，总体的分布函数为F(x,)，其中为未知参数.一、矩估计法理论依据:

它是基于一种简单的“替换”思想建立起来的一种估计方法.由英国统计学家K.皮尔逊最早提出的.大数定律其基本思想是用样本矩估计总体矩

.设X1,X2,…,Xn

来自总体X的样本记总体k阶矩为样本k阶矩为

用样本矩来估计总体矩,用样本矩的连续函数来估计总体矩的连续函数,从而得出参数估计，这种估计法称为矩估计法.样本k阶中心矩为那么用诸的估计量Ai分别代替上式中的诸,即可得诸

的矩估计量：设总体的分布函数中含有k个未知参数都是这k个参数的函数,记为：,那么它的前k阶矩一般i=1,2,…,k从这k个方程中解出j=1,2,…,kj=1,2,…,k矩估计量的观察值称为矩估计值.例1

设总体服从泊松分布，

求参数的估计量.解设是总体的一个样本,由于,可得

解例2解方程组得到a,b的矩估计量分别为解例3解解方程组得到矩估计量分别为例4上例表明:总体均值与方差的矩估计量的表达式，不因不同的总体分布而异.一般地:矩法的优点是简单易行.缺点是，矩估计法仅依赖样本矩和总体矩的替换关系,即使当总体类型已知时，矩估计法不需充分利用分布提供的信息.一般场合下,矩估计量不具有唯一性.

例4

设总体的分布密度为为总体的样本,求参数的矩估计量.解：由于只含有一个未知参数，一般只需求出便能得到的矩估计量，但是即不含有,故不能由此得到的矩估计量.为此,求

故令

于是解得的矩估计量为

本例的矩估计量也可以这样求得故令

即的矩估计量为该例表明参数的矩估计量不唯一.二、最大（极大）似然估计法最大似然法是在总体类型已知条件下使用的一种参数估计方法.它首先是由德国数学家高斯在1821年提出的.然而，Fisher这个方法常归功于英国统计学家费歇

.

费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质.（或分似然函数设总体X的分布律为，其中是未知参数，是总体X的一个样为

布密度为）本，则样本，当给定样本值后，它只是参数的函数，记为即离散情形下的分布律则称为似然函数。似然函数实质上是样本的分布律或分布密度。连续情形下2.最大似然估计法最大似然估计法，是建立在最大似然原理的基础上的求点估计量的方法。最大似然原理的直观想法是：在试验中概率最大的事件最有可能出现。因此，一个试验如有若干个可能的结果若在一次试验中，结果出现，则一般出现的概率最大。认为定义

设总体的分布密度(或分布律)为

其中为未知参数。又设是总体

的一个样本值，如果似然函数分别为的最大似然估计值。注意,最大似然估计值依赖于样本值.求最大似然估计量的一般步骤为：（1）求似然函数（2）一般地，求出及似然方程

（3）解似然方程得到最大似然估计值

（4）最后得到最大似然估计量

解似然函数例5这一估计量与矩估计量是相同的.解X的似然函数为例6它们与相应的矩估计量相同.解例7三、小结两种求点估计的方法:矩估计法最大似然估计法在统计问题中往往先使用最大似然估计法,

在最大似然估计法使用不方便时,

再用矩估计法.§7.2估计量的评价标准问题的提出:

从前一节可以看到,对于同一个参数,用不同的估计方法求出的估计量可能不相同,那么哪了一个估计量好？好坏的标准是什么?一.无偏性无偏估计的实际意义:无系统误差.无偏性是对估计量的一个常见而重要的要求.例如样本矩Ak

就是总体矩µk

的无偏估计。特别地:不论总体X服从什么分布,只要它的数学期望存在,再如,

一个估计量如果不是无偏估计量，就称这个估计量是有偏的，且称

为估计量的偏差

(系统偏差)。

则偏差为如果有的一列估计

,满足关系式

则称是的渐近无偏估计（量）。

证例1由上例可知,同一个参数可以有不同的无偏估计量.二、有效性由于方差是随机变量取值与其数学期望的偏离程度,所以无偏估计以方差小者为好.证明例2

(续例1)说明最小方差无偏估计是一种最优估计.定义三、相合估计有时候我们不仅要求估计量有较小的方差，还希望当样本容量n充分大时，估计量能在某种意义下收敛于被估计参数，这就是所谓相合性（或一致性）概念。定义

设是未知参数估计序列，如果依概率收敛于，即对任，有定理

设是的一个估计量，若或则称是的相合估计（量）（或一致估量）。且则是的相合估计（或一致估计）。小结估计量的评选的三个标准无偏性有效性相合性相合性是对估计量的一个基本要求,不具备相合性的估计量是不予以考虑的.估计量的相合性只有当样本容量相当大时,才能显示出优越性,这在实际中往往难以做到,因此,我们往往只考虑使用无偏性和有效性这两个标准.§7.3参数的区间估计

点估计是用样本算得的一个值去估计未知参数.但是，点估计值仅仅是未知参数的一个近似值，它没有反映出这个近似值的误差范围.区间估计弥补了点估计的这个缺陷.一.置信区间的定义和满足关于定义的说明例如二.求置信区间的一般步骤(3)

从中解得(2)

确定常数a,b,使得(1)

找一个不依赖参数的统计量§7.4正态总体均值与方差的区间估计1.I单个总体的情况即置信区间为区间的长度为注,一般有:包糖机某日开工包了12包糖,称得重量(单位:克)分别为506,500,495,488,504,486,505,513,521,520,512,485.假设重量服从正态分布,解例1查表得于是得置信区间为解有一大批糖果,现从中随机地取16袋,称得重量(克)如下:设袋装糖果的重量服从正态分布,试求总体均值例2就是说估计袋装糖果重量的均值在500.4克与507.1克之间,这个估计的可信程度为95%.这个误差的可信度为95%.根据第六章第三节定理II.方差的置信区间根据实际需要,我们只介绍期望未知的情形.进一步可得:注