数理统计课件：估计量的评价标准

估计量的

评价标准对于同一个参数，用不同的估计方法求出的估计量可能不相同.问题：采用哪一个估计量好？一无偏性三相合性二有效性设总体X~F(x,

)，其中

为未知参数，X1,X2

,…,Xn是来自该总体的样本，为

的一个估计量.

估计量

是一个随机变量当样本(X1

,…,Xn)有观测值(x1

,…,xn)时，估计值为当样本(X1

,…,Xn)有观测值(y1

,…,yn)时，估计值为由不同的观测结果，就会求得不同的参数估计值.因此评价一个估计量的好坏，不能仅仅依据一次试验的结果来判断，而必须根据估计量的分布从整体上来做评价.当样本取不同的观测值时，希望相应的估计值在未知参数真值附近摆动，而它的均值与未知参数的真值的偏差越小越好.

当这种偏差为0时，就导致无偏性这个标准.

3.4.1无偏性定义3.4.1设为一参数分布族，其中Θ为参数空间.X1,X2,…,Xn是从该分布族中的某总体抽取的样本，

是总体分布中的未知参数，设为未知参数

的估计量，若对任意

Θ，都有则称为

的无偏估计.设g(

)

为待估参数，为g(

)的估计量，若对任意

Θ，都有则称为g(

)的无偏估计.记称bn为估计的偏差.如果bn

0

，则称为参数

的有偏估计.若则称为参数

的渐近无偏估计.1无系统性偏差.2由于估计量是随机变量，故评价它是否合理，不能根据一

次估计的结果，而应该根据多次反复使用这个统计量的“平均”效果来评价.由此给出无偏估计的“频率解释”.无偏性说明对于无偏估计量，单次的估计值相对于真值，可能偏大，也可能偏小，它无法说明一次估计所产生的偏差，但反复将这一估计量使用多次，平均来说其偏差为0.注意：要求估计量大量重复使用，在多次重复使用下给出接近真值θ

的估计.

假定在同一个模型(同样的总体分布与样本容量)下，对同一个参数函数g(θ)用同一个无偏估计进行多次估计，记第i次估计为，由大数定律得尽管一次估计结果不一定恰好等于g(θ)但是在大量重复使用时，多次估计的算术平均值，可以任意接近g(θ).如果这一估计量只使用一次，无偏性这个概念就失去意义.无偏估计量仅在多次重复使用时才显示其优越性.例3.4.1

设总体X的k阶矩E(Xk)

存在，X1,X2,…,Xn是来自总体X的样本，证明：样本k阶矩是总体k阶矩E(Xk)的无偏估计.证明：由于因此样本k阶矩是总体k阶矩的无偏估计.则样本均值是总体均值μ的无偏估计，样本方差是总体方差σ2的无偏估计.例3.4.2设总体X的均值为EX=µ

，方差为DX=σ2存在，X1,X2,…,Xn是来自总体X的样本，则证明：例3.4.3

设X1,X2

,…,Xn是来自总体X的样本，且X~N(μ,σ2),其中μ,σ2为未知参数，，x1,x2,…,xn是样本的观察值，试用极大似然估计法求参数μ，σ2

的估计量，并问是否是无偏估计.由于μ和σ2的极大似然估计为解:又由得因此是μ的无偏估计，不是σ2的无偏估计.但是是σ2的渐近无偏估计.例3.4.4设X1,X2

,…,Xn为来自总体X的样本，且X的密度函数为其中

>0为未知参数，证明：因为X的分布函数为证明：

和nU=n{min(X1,X2

,…,Xn)}都是

的无偏估计.故

是

的无偏估计先求U的分布函数独立性对其求导数得到U的密度函数为：即U的分布函数为指数分布U的密度函数为由指数分布的性质知：因此，nU也是

的无偏估计.故有：例3.4.5设X1,X2,…,Xn是来自总体X的样本，总体均值为

=EX，证明与都是

的无偏估计.其中证明：由于所以都是无偏估计.一个参数往往有不止一个无偏估计，若和都是参数θ的无偏估计量，我们可以比较和的大小来决定二者谁更优.无偏估计以方差小者为好，这就引进了有效性这一概念.举个例子说明有效性到商店购买电视机，看中了其中两种品牌，分别由甲乙两厂生产，外观、音质和画面都不错.根据市场调查，甲乙两厂生产的两种电视机平均使用寿命相同，都是20年.甲厂生产的电视机质量较稳定，最低使用寿命18年，最高可以使用22年；乙厂生产的电视机质量稳定性差一些，最差的使用10年就坏了，但是最好的可以使用30年.选用哪一个厂家生产的电视机呢?若将电视机的使用寿命视为随机变量，甲乙两厂生产的电视机使用寿命均值相等，但是乙厂的质量不稳定，即方差较大.从稳健的角度出发，显然愿意购买甲厂生产的电视机，其风险较小，即方差较小，质量稳定.散集中EXEX集中或分散程度用方差DX

衡量3.4.2有效性且不等号至少对某个

Θ成立.定义3.4.2设是未知参数

的两个无偏估计，且对一切

Θ，Θ

为参数空间，都有则称估计比估计有效.等号成立当且仅当例3.4.6设X1,X2,…,Xn是来自总体X的样本，总体均值为EX=

，总体方差为DX=σ2，比较与的有效性.其中证明：由例3.4.5知与都是

的无偏估计.所以比有效.解：比较和nU=n{min(X1,X2

,…,Xn)}的有效性.由例3.4.4知，和nU=n{min(X1,X2

,…,Xn)}都是

的无偏估计.由得例3.4.7设X1,X2

,…,Xn为来自总体X的样本，且X的密度函数为其中

>0为未知参数，因此，当n>1时，由得即：

比nU有效.思考：指数分布的充分统计量？U

的密度函数为随着样本容量的增加，估计量与被估计参数g(θ)的偏差越来越小这是一个良好估计量应该具有的性质试想，若不然，无论做多少次试验，也不能把θ

估计到任意指定的精度，这样的估计量显然不可取.大量实践表明3.4.3相合性定义3.4.3：设对每个自然数n，为θ的一个估计量，若

依概率收敛到θ即对任何及，有则称为θ的弱相合估计，简称相合估计.若对任何，有若对r>0和任何，有当r=2时，称为均方相合估计.则称为θ的强相合估计.则称为θ的r阶矩相合估计.注：估计量的相合性是对大样本提出的要求，是估计量的一种

大样本性质.根据概率论可知上述三种相合性的关系如下：1.强相合推出弱相合，反之不一定；2.对任何r>0，有r阶矩相合推出弱相合，反之不一定；3.强相合与r阶矩相合之间没有包含关系.(1)

的矩估计为，且为θ的无偏估计.(2)

的极大似然估计为，不是θ的无偏估计.对适当修正获得θ的无偏估计.(3)将与进行比较，比较哪一个更有效.(4)

的极大似然估计是θ的相合估计.例3.4.8设X1,X2

,…,Xn为来自均匀分布总体U[0,

]的样本，

其中

>0为未知参数，则解：(1)由于，因此为θ的无偏估计.(2)根据已有例子知θ的极大似然估计为下面讨论的无偏性的密度函数为因此极大似然估计不是θ的无偏估计，

但是θ的渐近无偏估计.修正为无偏估计当n>1时，当n=1时，两个估计相同.即修正的极大似然估计比矩估计有效.(3)由于(4)由于X(n)的概率密度函数为对于任给的ε>0，有对于任给的

ε>0，有即因此θ的极大似然估计是θ的相合估计.矩估计的性质1.设总体X

的k

阶原点矩存在，记为X1,X2,…,Xn为来自总体的样本，样本k阶原点矩为因此，样本k

阶原点矩是总体k

阶原点矩的无偏估计.由于矩估计的无偏性2.对于k≥2，样本k阶中心矩不是总体k阶中心矩的无偏估计由于将其修正得到是DX

的无偏估计.