求点估计的方法

§6.1参数的点估计点估计概念矩法极大似然法小结1偶然现象))1.分布:

2.t分布上节知识回顾

3.F分布一、三种分布2二、抽样分布3

上一章，我们介绍了总体、样本、简单随机样本、统计量和抽样分布的概念，介绍了统计中常用的几大分布，给出了几个重要的抽样分布定理.它们是进一步学习统计推断的基础.4

现在我们来介绍一类重要的统计推断问题

参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数.

参数估计估计废品率估计新生儿的平均体重……

在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数.5这类问题称为参数估计.参数估计问题的一般提法X1,X2,…,Xn要依据该样本对参数作出估计，或估计的某个已知函数

.现从该总体抽样，得样本设有一个总体，总体的分布函数向量).为F(x,)，其中为未知参数(可以是6问题参数估计参数估计概念总体X的分布类型已知，但其中的一个或几个参数未知，如何对总体分布的参数作出估计。点估计区间估计点估计：估计未知参数的值区间估计：估计未知参数的取值范围，并使此范围包含未知参数真值的概率为给定的值.7（假定身高服从正态分布

）设这5个数是:1.651.671.681.781.69估计为1.68，这是点估计.这是区间估计.估计在区间[1.57,1.84]内，假如我们要估计我们班男生的平均身高.

现从该总体选取容量为5的样本，我们的任务是要根据选出的样本（5个数）求出总体均值的估计.而全部信息就由这5个数组成.8点估计的概念：设总体X的分布中含有未知参数从总体X中抽取一个样本其观测值为利用样本构造一个是θ的点估计量(Pointestimate)，

则称统计量如果以它的观测值作为未知参数的估计值，而称其观测值是θ点估计值。9一、矩估计法(methodofmoments)

矩估计法是英国统计学家K.皮尔逊最早提出来的.【替换原理】10根据替换原则，在总体分布形式未知的场合也可以对各种参数作出估计，譬如：用样本均值估计总体均值用样本方差估计总体方差用事件A出现的频率估计事件Ａ发生的概率11例6.2.1

对某型号的20辆汽车记录其每加仑汽油的行驶里程(km)，观测数据如下：29.827.628.327.930.128.729.928.027.928.728.427.229.528.528.030.029.129.829.626.9经计算有

由此给出总体均值、方差和中位数的估计分别为:28.695,0.9185和28.6。矩法估计的实质是用经验分布函数去替换总体分布，其理论基础是格里纹科定理。记总体k阶矩为样本k阶矩为用相应的样本矩去估计总体矩的估计方法就称为矩估计法.记总体k阶中心矩为样本k阶中心矩为13

用样本的各阶矩来估计总体的各阶矩的的方法。

具体步骤（重点）

若总体X的分布中含有r个待估参数θ1,

…,θr

。矩估计法：142、若上述方程组可解，则从中解出：3、用样本矩作为总体矩的估计量，即4、则得到参数的矩估计量：15说明：一般的可用样本的k阶原点矩估计总体的k阶原点矩，用样本的k阶中心矩估计总体的k阶中心矩，注意总体方差的矩估计量是修正后的样本方差，而不是样本方差161718一个参数的矩估计量可能不是唯一的，此时一般使用低阶样本矩获得的估计量19练习：解：20例6.2.3

设X1,X2,…Xn

是取自总体X~

的一个样本,求的矩估计.解：X

的密度函数为通过计算易得

2122

用样本的各阶矩来估计总体的各阶矩的的方法。

具体步骤若总体X的分布中含有r个待估参数θ1,

…,θr。一、矩估计法（重点）上节知识回顾22232、若上述方程组可解，则从中解出：3、用样本矩作为总体矩的估计量，即4、则得到参数的矩估计量：23【结论】矩估计法的优点：当总体的原点矩不存在时，不能采用矩法简便易于计算矩估计法的缺点：24二、最大似然估计(maximumlikelihoodestimation)

首先由德国数学家Guass在1821年针对正态分布提出的；英国统计学家Fisher在1922年再次提出了这种方法并证明了它的一些性质，从而使得最大似然法得到了广泛的应用。25最大似然法的基本思想一只野兔从前方窜过.是谁打中的呢？

某位同学与一位猎人一起外出打猎.如果要你推测，你会如何想呢?只听一声枪响，野兔应声倒下

.26

你会想，只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率.看来这一枪是猎人射中的.

这个例子所作的推断已经体现了最大似然法的基本思想.27

最大似然法的基本思想再看一个简单例子：

例6.3.1：设有外形完全相同的两个箱子，甲箱中有99个白球和1个黑球，乙箱中有99个黑球1个白球，今随机抽取一箱，并从中抽取一球，结果是白球，问这球是从哪一箱中取得的？28

解：不管是哪一个箱子，从中任取一球都有两个可能，Ａ表示取出白球，Ｂ表示取出黑球，如果我们取出的是甲箱，则Ａ发生的概率为０.99,而如果取出的是乙箱，则Ａ发生的概率为０.0１,现在一次试验A发生了，所以根据经验认为最像是从甲箱取出的，“最像”就是“最大似然”之意。

293031设总体X是离散随机变量似然函数(likelihoodfunction)：是一组样本观测值，则直观想法：选取的θ应使这组样本观测值出现的可能性最大.实现途径：求似然函数L(θ)的最大值.令或解方程可得就是参数θ的最大似然估计值。32设总体X是连续型随机变量33说明

对数似然函数34求极大似然估计的步骤（重点）此方程称为对数似然方程，方程的解即为所要求的极大似然估计35解例:设总体X服从泊松分布P(λ),其中λ为未知参数。如果取得样本观测值为求λ的极大似然估计值。（1）由得似然函数得λ的极大似然估计值为令36练习设总体X服从指数分布，概率密度为求极大似然值。其中λ为未知参数。如果取得样本观测值为解似然函数为得λ的极大似然估计值为令37然估计值。例6.3.4总体X服从正态分布其中μ及σ是未知参数。如果取得样本观测值为求参数μ及σ

的极大似似然函数为解38令所以得μ

及σ

的极大似然估计值为解得39注：此例中似然函数不是处处可导，所以不能对对数似然方程求导进行求解40

极大似然估计有一个简单而有用的性质：如果是的极大似然估计，则对任一函数g()，其极大似然估计为。该性质称为极大似然估计的不变性，从而使一些复杂结构的参数的极大似然估计的获得变得容易了。

例6.3.5

设x1,x2,

…,xn是来自正态总体N(,2)的样本，则和2的极大似然估计为，于是由不变性可得如下参数的极大似然估计，它们是:

标准差的MLEL(p)=f(x1,x2,…xn;p

)

例

设X1,X2,…Xn是取自总体

X服从0-1分布的一个样本，求参数

p的极大似然估计.似然函数为:

解:X

的分布律可写为43对数似然函数为：对p求导并令其为0，=0得即为

p

的MLE.44解得θ

的矩估计值为：令(1)取得样本观测值为求参数θ

的矩估计与极大似练习

设总体X的概率密度为如果然估计值。45得θ

的极大似然估计值为：(2)似然函数为：46解：似然函数为对数似然函数为练习

设X1,X2,…Xn是取自总体X的一个样本求的极大似然估计.其中

>0,47求导并令其为0=0从中解得即为的MLE.对数似然函数为48用样本的各阶原点矩来估计总体的