参数估计完整版本

第六章

参数估计

§6.1

点估计的几种方法§6.2

点估计的评价标准§6.3

最小方差无偏估计§6.5

区间估计

参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数.

为何要进行参数估计？⑴什么是参数？刻划总体数字特征参数刻划样本数字特征样本统计量参数EXDX⑵为什么参数需要估计？若总体分布类型已知（根据人们长期的实践经验判断）不知道参数，还是不能确切地知道分布规律，从而也就无法解决实际问题。某生考试是否通过，但p因人而异检查n

个产品，其中次品个数降雨量但其中含有未知参数.这类问题称为参数估计.参数估计问题的一般提法X1,X2,…,Xn要依据该样本对参数作出估计,或估计的某个已知函数.现从该总体抽样，得样本

设有一个统计总体,总体的分布函数为F(x,)，其中为未知参数(可以是向量).

点估计参数估计方法区间估计（假定身高服从正态分布）设这5个数是:1.651.681.701.751.78

估计

为1.712，这是点估计.这是区间估计.估计在区间[1.67,1.76]内，例如我们要估计某队男生的平均身高.

现从该总体选取容量为5的样本，我们的任务是要根据选出的样本（5个数）求出总体均值的估计.而全部信息就由这5个数组成.点估计的概念

定义设X1，…，Xn是总体X的一个样本，其分布函数为F(x;

),

。其中

为未知参数,

为参数空间,若统计量可作为

的一个估计,则称其为的一个点估计量，记为。若x1，…，

xn是样本的一个观测值，则称为的点估计值.§6.1点估计的几种方法

替换原理是指用样本矩及其函数去替换相应的总体矩及其函数，譬如：用样本均值估计总体均值E(X)，即；用未修正的样本方差估计总体方差，即用样本的p分位数估计总体的p分位数，用样本中位数估计总体中位数。

一、矩法估计

矩估计法是英国统计学家K.皮尔逊最早提出来的.

1.原理：用样本矩作为总体同阶矩的估计，即2.方法：设总体X的分布中含有k个未知参数ө1，ө2，…，өk共k个未知参数，总体的前k阶矩都存在自主学习书中P193

例6.1.1令解出其中的未知参数即可得到相应的矩估计量.实际应用：1、总体数学期望E(X)的估计2、总体方差Var(X)的估计以样本均值估计总体均值以样本的二阶中心距估计总体方差例1习题6.2第3题未知，例2设X1，…，Xn为取自总体X的样本，X的概率密度为求的矩估计量。书中P198

例6.2.2说明什么问题例3

设X1，…，Xn为来自总体X~U(a,b)的样本，求未知参数a,b的矩估计量。作业习题6.2第1、4、7题书中P198

例6.2.3计算中有没有错误？讨论习题6.2第5、7题二、6.2

极(最)大似然估计

有两个射手，一人的命中率为0.9,另一人的命中率为0.1,现在他们中的一个向目标射击了一发，结果命中了，估计是谁射击的？

若在一次抽样中,得到了样本观测值,则选择使得这组观测值出现的概率达到最大的那个ө，作为未知参数ө的估计值.1.极大似然思想（1）若总体X为离散型随机变量，它的分布列为P{X=x}=p(x；ө)得到样本观察值x1,x2,…,xn,称为似然函数，使L(ө)达到最大的那个ө称为它的极大似然估计量，简记为MLE（MaximumLikelihoodEstimate）.

2.似然函数（2）若总体X为连续型随机变量，它的概率密度为P(x；ө),得到样本观察值x1,x2,…,xn,称为似然函数，使L(ө)达到最大的那个ө称为它的极大似然估计量.3.求极大似然估计的步骤(1)写出似然函数L(ө),设总体X的分布中含有k个未知参数(2)求对数似然函数lnL(ө),(3)求导得似然方程组若该方程组有惟一解，则其解就是所求的极大似然估计值例4设X1，…，Xn为取自总体X的样本，求下列未知参数的极大似然估计.（1）总体X~P(),

未知（2）总体X的概率密度为未知（3）总体的分布律如下，ө未知X123Pө22ө(1-ө)(1-ө)20<ө<1,ө未知，现得样本值x1=1,x2=2,x3=1,求ө的极大似然估计.例5设一个试验有三种可能结果，其发生概率分别为现做了n次试验，观测到三种结果发生的次数分别为n1,n2,n3(n1+n2+n3=n)，求θ的矩估计和最大似然估计.第二次捕出的有记号的鱼数X是r.v,X具有超几何分布：为了估计湖中的鱼数N，第一次捕上r条鱼，做上记号后放回.隔一段时间后,再捕出S条鱼,结果发现这S条鱼中有k条标有记号.根据这个信息，如何估计湖中的鱼数呢？最后，我们用极大似然法估计湖中的鱼数应取使L(N;k)达到最大的N，作为N的极大似然估计.但用对N求导的方法相当困难,我们考虑比值：把上式右端看作N的函数，记作L(N;k).经过简单的计算知，这个比值大于或小于1，或而定.由这就是说，当N增大时，序列P(X=k;N)先是上升而后下降;当N为小于的最大整数时,达到最大值.故N的极大似然估计为例6设X1，…，Xn为取自总体X~N(μ,σ²)的样本，求μ,σ²的极大似然估计量.注：由似然方程解不出

的极大似然估计时，可由定义通过分析直接推求得到其极大似然估计。事实上例7设X1，…，Xn为取自U[0,]

总体的样本，>0未知，求参数

的极大似然估计.思考：习题6.3第3题(3),2(3)4.不变原则若是未知参数的极大似然估计，g()是的连续函数，且有唯一反函数，则g()的极大似然估计为例8从一批灯泡中随机抽取10只,测得寿命(h)为1067919119678511269369181156920948设灯泡的寿命服从正态分布,用极大似然估计法估计灯泡使用寿命超过1300小时的概率.作业：习题6.3第1、2题标准1：无偏性

定义

设是

的一个估计，

的参数空间为Θ，若对任意的

∈Θ，有

则称是

的无偏估计，否则称为有偏估计.

§6.2点估计的评价标准

例1P1964.设X1，…，Xn为取自总体X的样本，E(X)=μ,Var(X)=σ²，（1）求c使是σ²的无偏估计量；（2）求c使是μ²的无偏估计量.自主学习书中例6.1.2，体会如何修偏.注意：无偏估计不具有不变性，即如果是ө的一个无偏估计,g(ө)是ө的一个实值函数,那么不一定是g(ө)的无偏估计.思考：设总体为X~P(λ),试构造λ2的一个无偏估计.

例2

习题6.1第3题标准2：有效性

定义

设是

的两个无偏估计，如果对任意的

∈Θ,有且至少有一个

∈Θ使得上述不等号严格成立，则称比有效.

例3设X1，X2

，X3为取自总体X的样本，E(X)=μ,Var(X)=σ²>0，下列哪些是μ的无偏估计量，哪个最有效？例4设总体X~Exp(1/θ),X1,X2,…,Xn是其样本，（1）求证和nX(1)都是θ的无偏估计量；（2）比较两者的有效性.自主学习:书中例6.1.4，注意最大值的分布如何使用.定义

设

∈Θ为未知参数，是

的一个估计量，n是样本容量，若对任何一个ε>0，有

(6.2.1)

则称为

参数的相合估计。

相合性可用依概率收敛的性质、或辛钦大数定理的结论或者切比雪夫不等式证明.标准3：相合性

判别定理

设是

的一个估计量，若

则是

的相合估计.例5设X1，…，Xn为取自U(0,)

总体的样本，>0未知，求证

的极大似然估计是它的相合估计.相合估计的不变性

若分别是

1,

…,

k的相合估计，

=g(

1

,

…,

k)是

1,

…,

k的连续函数，则是

的相合估计.设E(X)=μ,Var(X)=σ2，则有以下常用结论：样本均值X是总体均值μ的相合估计；样本的二阶中心距和S2都是总体方差σ2的相合估计；样本标准差S是总体标准差σ的相合估计.作业

习题6.1第7题习题6.3第7题§6.5

区间估计

6.5.1区间估计的概念

定义6.5.1

设

是总体的一个参数，其参数空间为Θ，x1,x2

,

…,xn是来自该总体的样本，对给定的一个

(0<

<1)，若有两个统计量和，若对任意的

∈Θ，有

（6.6.1）则称随机区间[]为

的置信水平为1-

的置信区间，或简称[]是

的1-

置信区间.

这里置信水平1-

的含义是指在大量使用该置信区间时，至少有100(1-

)%的区间含有

。

例1

设x1,x2,…,x10是来自N(,

2)的样本，则

的置信水平为1-

的置信区间为

其中，,s分别为样本均值和样本标准差。若取

=0.10，则t0.95(9)=1.8331，上式化为

由图6.6.1可以看出，这100个区间中有91个包含参数真值15，另外9个不包含参数真值。

图6.6.1

的置信水平为0.90的置信区间

取

=0.50，我们也可以给出100个这样的区间，见图6.6.2。可以看出，这100个区间中有50个包含参数真值15，另外50个不包含参数真值。

图6.6.2

的置信水平为0.50的置信区间

一对矛盾:一方面我们希望估计的可信度高,即随机区间包含

真值的概率要大;另一方面,我们还希望估计精度要高,即区间的长度要小.实际上,在样本容量n固定的情况下,这两个要求往往不能同时兼顾.如何化解？我们可以得到未知参数的的任何置信水平小于1的置信区间，并且置信水平越高，相应的置信区间平均长度越长.

也就是说，要想得到的区间估计可靠度高，区间长度就长，估计的精度就差.这是一对矛盾.实用中应在保证足够可靠的前提下，尽量使得区间的长度短一些.

也就是说，要想得到的区间估计可靠度高，区间长度就长，估计的精度就差.这是一对矛盾.实用中应在保证足够可靠的前提下，尽量使得区间的长度短一些.我们总是希望置信区间尽可能短.我们可得到若干个不同的置信区间.任意两个数a和b，只要它们的纵标包含f(u)下95%的面积，就确定一个95%的置信区间.在概率密度为单峰且对称的情形，当a=-b时求得的置信区间的长度为最短.a=-b即使在概率密度不对称的情形，如分布，F分布，习惯上仍取对称的百分位点来计算未知参数的置信区间.定义6.5.2

沿用定义6.6.1的记号，如对给定的

(0<

<1)，对任意的

∈Θ，有

称为

的1-

同等置信区间。

定义6.5.3

若对给定的

(0<

<1)和任意的

∈Θ，有

则称为

的置信水平为1-

的（单侧）置信下限。若对给定的

(0<

<1)和任意的

∈Θ，有则称为

的置信水平为1-

的（单侧）置信上限。6.5.2枢轴量法

1.设法构造一个样本和

的函数G=G(x1,x2,…,xn,

)

使得G的分布不依赖于未知参数。一般称具有这种性质的G为枢轴量。2.适当选择两个常数c,d，使对给定的

(0<

<1)有P(c≤G≤d)=1-

3.假如能将c≤G

≤d

进行不等式等价变形化为则[，]是

的1-

同等置信区间。实际中，选平均长度尽可能短的c与d，这往往很难实现，因此，常这样选择

c与d，使得两个尾部概率各为

/2，即P(G<c)=P(G>d)=

/2，这样的置信区间称为等尾置信区间。这是在G的分布为偏态分布场合常采用的方法。

温馨提醒设x1，…，xn为取自总体X~N(μ,σ²)的样本,置信度为1-α1.σ²已知时求μ的置信区间可得到

的置信度为1

的置信区间为6.5.3单个正态总体参数的置信区间

例2

用天平秤某物体的重量9次，得平均值为（克），已知天平秤量结果为正态分布，其标准差为0.1克。（1）试求该物体重量的0.95置信区间；（2）试求该物体重量的0.9置信区间.例3

设某批大学生身高的总体X~N(μ,16)(cm)，为使总体平均身高的的置信度为0.95的置信区间的长度小于1.2cm，问至少应抽取多少名学生测其身高？思考：如何求σ²已知时μ的单侧置信区间？

2.

2未知时求μ的置信区间即得m的1-a置信区间为

同理可得即得m的下侧1-a置信区间为即得m的上侧1-a置信区间为例4

有一大批糖果，现随机抽取16袋，称得重量（克）如下：506508499503504510497512514505493496506502509496设袋装糖果的重量服从正态分布，求总体均值的0.95置信区间.3.单正态总体方差σ²的置信区间s2的置信度为1

的置信区间为假定m未知，例5

某厂生产的零件重量服从N(,2)，现从该厂生产的零件中抽取9个，测得其重量为（单位：克）45.345.445.145.345.545.745.445.345.6

试求总体标准差

的0.95置信区间。思考：习题6.5第3题作业：习题6.5第2、4题

设x1,…,xn是来自b(1,p)的样本,有对给定

，，不易变形.

如何得到p的置信区间呢？6.5.4大样本置信区间

1.总体比例的置信区间例6

为了解某地区某一指定时间段内的居民上网的比例，随机调查400名居民，发现有108名居民上网，求该地区居民的上网率p的95%置信区间.例7

某传媒公司欲调查电视台某综艺节目收视率p，为使得p

的1-

置信区间长度不超过2d0，问应调查多少用户？作业：习题6.5第5题复习：枢轴量法

1.设法构造一个样本和

的函数G=G(x1,x2,…,xn,

)

使得G的分布不依赖于未知参数。一般称具有这种性质的G为枢轴量。2.适当选择两个常数c,d，使对给定的

(0<

<1)有P(c≤G≤d)=1-

3.假如能将c≤G

≤