经济数学-概率论与数理统计课件：点估计

参数估计

点估计估计问题矩估计法极大似然估计法估计量的评选标准

引言

上一讲，我们介绍了总体、样本、简单随机样本、统计量和抽样分布的概念，介绍了统计中常用的三大分布，给出了几个重要的抽样分布定理.它们是进一步学习统计推断的基础.

总体样本统计量描述作出推断研究统计量的性质和评价一个统计推断的优良性，完全取决于其抽样分布的性质.随机抽样

现在我们来介绍一类重要的统计推断问题

参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数.

一、估计问题估计废品率估计新生儿的体重估计湖中鱼数……估计降雨量在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数.这类问题称为参数估计.参数估计问题的一般提法X1,X2,…,Xn要依据该样本对参数作出估计,或估计的某个已知函数.现从该总体抽样，得样本

设有一个统计总体,总体的分布函数为F(x,)，其中为未知参数.

对应于样本的一组观测值（x1，x2，…，xn），估计量的值（x1，x2，…，xn）称为θ的估计值，仍记作。设θ为总体X的未知参数，用样本（X1，X2，…，Xn）构成的一个统计量来估计θ的真值，称为θ的估计量。估计量：估计值：参数估计点估计区间估计（假定身高服从正态分布）设这5个数是:1.651.671.681.781.69

估计

为1.68，这是点估计.这是区间估计.估计在区间[1.57,1.84]内，例如我们要估计某队男生的平均身高.

现从该总体选取容量为5的样本，我们的任务是要根据选出的样本（5个数）求出总体均值的估计值.而全部信息就由这5个数组成.

使用什么样的统计量去估计？可以用样本均值;也可以用样本中位数;还可以用别的统计量.问题是:

寻求估计量的方法1.矩估计法2.极大似然法这里我们主要介绍两种方法.1.矩估计法

矩估计法是英国统计学家K.皮尔逊最早提出来的.由辛钦定理,若总体的数学期望有限,则有其中为连续函数.

这表明

,当样本容量很大时,在统计上,可以用用样本矩去估计总体矩.这一事实导出矩估计法.定义用样本原点矩估计相应的总体原点矩,又用样本原点矩的连续函数估计相应的总体原点矩的连续函数,这种参数点估计法称为矩估计法

.由前面知道矩估计的思想：用样本的k阶原点矩代替相应的总体的k阶原点矩。总体的k阶原点矩：样本的k阶原点矩：

理论依据:

大数定律矩估计法的具体做法如下

设总体的分布函数中含有k个未知参数,那么它的前k阶矩.一般都是这k个参数的函数,记为：i=1,2,…,k从这k个方程中解出j=1,2,…,kj=1,2,…,k那么用诸的估计量Ai分别代替上式中的诸,即可得诸的矩估计量：矩估计量的观察值称为矩估计值

.

例1设总体X在[0,θ

]上服从均匀分布,θ

未知.是来自X

的样本,试求θ的矩估计值.解解得θ

的矩估计量为于是θ

的矩估计值为解

例2设总体X的均值和方差都存在,未知.是来自X

的样本,试求的矩估计量.解得于是的矩估计量为样本矩总体矩

矩法的优点是简单易行,并不需要事先知道总体是什么分布.

缺点是，当总体类型已知时，没有充分利用分布提供的信息.一般场合下,矩估计量不具有唯一性.

其主要原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替带有一定的随意性.

2.极大似然估计法

它是在总体类型已知条件下使用的一种参数估计方法.

它首先是由德国数学家高斯在1821年提出的.GaussFisher

然而,这个方法常归功于英国统计学家费歇

.

费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质.极大似然估计法的思想是:在一次随机试验中,实际发生的事件应该是概率最大的事件,比如已经取得一组样本观测值,则认为事件发生的概率最大,这就是所谓的极大似然原理.似然函数若总体是离散型随机变量,概率函数为,

其中为待估计的参数.

设是取自总体的一组样本观测值,

也就是说事件发生了.因为随机变量相互独立,且与总体有相同的概率函数,所以此事件发生的概率为.这一概率随的取值而变化,它是的函数,记为.即称为离散型总体的似然函数.若总体是连续型随机变量,其概率密度函数为,其中为待估计的参数.设是取自总体的一组样本观测值,则定义为连续型总体的似然函数.对于一组样本观察值

,在取值的可能范围内挑选使似然函数

;达到最大值的参数,

把作为未知参数的估计值.即取使;)=;这样得到的

与样本值有关,记为

()，称为参数

的极大似然估计值,

而相应的统计量

(,

,)称为参数

的极大

似然估计量.极大似然估计法的基本思想是选取估计值使小结：极大似然估计法的一般步骤：（２）取对数（３）求导数，得驻点，最大值点（４）作结论（1）写似然函数L参数，如果取得样本观测值为的极大似然估计值.设总体服从泊松分布解:概率函数构造似然函数为例3其中为未知求参数取对数，得令由此解得的极大似然估计值为解：θ的似然函数为：取对数例4：设(X1,X2,…Xn)是来自总体X的一个样本求θ的极大似然估计量．其中>0,求导并令其为0=0从中解得

即为θ的极大似然估计量。

即为θ的极大似然估计值。

例5设总体X~N()

,未知.是来自X

的样本值,试求的极大似然估计量.似然函数为解X的概率密度为于是令解得的极大大似然估计量为

练习1

设总体X的概率密度为其中是未知参数,X1,X2,…,Xn是取自X的样本,求参数的矩估计.解样本矩总体矩解得的矩估计量为故其中为未知参数，如果取得样本观测值为设总体服从指数分布求参数的极大似然估计值.概率密度为解:似然函数为取对数，得练习2令由此解得的极大似然估计值为1、无偏性

无偏性要求估计量的取值要以参数真值为中心左右摆动。它等同于估计量的数学期望等于待估参数的真值。一个好的估计量应满足无偏性、有效性和一致性的要求。

二、估计量的评判标准设总体的均值方差证明:（1）样本均值是总体均值的无偏估计量；无偏估计量.证：服从相同分布，所以有因为样本相互独立，且与总体

例1（2）样本方差是总体方差的(1)

由数学期望与方差的性质可知所以，是的无偏估计量:而（2）所以，是的无偏估计量:由此得

讨论：对总体X～N(µ,σ2)来说，样本(X1,X2,…,Xn)中的X1与都是µ的无偏估计量吗？2.有效性参数

的无偏估计量,如果则称比有效.设与都是如果对于给定的样本容量

,

的方差

最小,则称

是

的有效估计量.当时依概率收敛于,