最小方差无偏估计和有效估计

关于最小方差无偏估计和有效估计1第一页，共三十页，2022年，8月28日2一、最小方差无偏估计

由定义2.4知，最小方差无偏估计（MVUE）是在无偏估计类中，使均方误差达到最小的估计量，即在均方误差最小意义下的最优估计。它是在应用中，人们希望寻求的一种估计量。

第二页，共三十页，2022年，8月28日3第三页，共三十页，2022年，8月28日4第四页，共三十页，2022年，8月28日5第五页，共三十页，2022年，8月28日6第六页，共三十页，2022年，8月28日7

定理2.7给出了最小方差无偏估计的一种判别方法，但由上例可见，该判别法使用并不方便，而且还只是一个充分条件。为了寻求更好的方法，需要借助充分统计量甚至充分完备统计量的概念。

第七页，共三十页，2022年，8月28日8定理2.8的说明：如果无偏估计不是充分统计量的函数，则将之对充分统计量求条件期望可以得到一个新的无偏估计，该估计的方差比原来的估计的方差要小，从而降低了无偏估计的方差。

换言之，考虑的估计问题只需要在基于充分统计量的函数中进行即可，该说法对所有的统计推断问题都是正确的，这便是所谓的充分性原则。

第八页，共三十页，2022年，8月28日9第九页，共三十页，2022年，8月28日10第十页，共三十页，2022年，8月28日11第十一页，共三十页，2022年，8月28日12第十二页，共三十页，2022年，8月28日13第十三页，共三十页，2022年，8月28日14第十四页，共三十页，2022年，8月28日15第十五页，共三十页，2022年，8月28日16第十六页，共三十页，2022年，8月28日172.要直接验证某个估计量是最小方差无偏估计量是困难的.若能求出无偏估计中方差的下界,而且又能说明参数的一切无偏估计中存在某个估计的方差能达到这个下界，那么就是的最小方差无偏估计.下面给出一个判别准则：1.最小方差无偏估计提供了一种优良的估计，然而一个更深入的问题是：无偏估计的方差是否可以任意小？如果不可以，那么它的下界是多少？这个下界等否达到？第十七页，共三十页，2022年，8月28日定理2.10(Cramer-Rao不等式)设X1,X2,…Xn是从密度函数为的总体抽取的样本,是的一个无偏估计,若集合与无关;对积分与微分可交换且存在，即(3)

则有第十八页，共三十页，2022年，8月28日其中常称为Fisher信息量.特别当,有常用的另一个表达式常称为C-R不等式.第十九页，共三十页，2022年，8月28日

费希尔信息量是数理统计学中一个基本概念，很多的统计结果都与费希尔信息量有关。如极大似然估计的渐近方差，无偏估计的方差的下界等都与费希尔信息量I()有关。I()的种种性质显示，“I()越大”可被解释为总体分布中包含未知参数的信息越多。第二十页，共三十页，2022年，8月28日例2.22设总体服从泊松分布，X1,X2,…Xn

是来自总体的一个样本，试求参数的无偏估计的下界？解:(1)写出密度函数

(2)求密度函数对数、再求导

(3)计算fisher信息量

(4)代入C-R不等式求方差下界第二十一页，共三十页，2022年，8月28日1.写出密度函数，求对数2.计算fiser信息量3.代入C-R不等式求方差下界第二十二页，共三十页，2022年，8月28日例2.23

设X1,X2,…Xn

是取自总体X~的一个样本,求的无偏估计的方差下界.

解:(1)写出密度函数

(2)求密度函数对数、再求导

(3)计算

(4)代入C-R不等式求方差下界最后寻找无偏估计中满足方差下界的估计量.第二十三页，共三十页，2022年，8月28日1.写出密度函数2.求密度函数对数3.计算fiser信息量4.代入C-R不等式求方差下界第二十四页，共三十页，2022年，8月28日2.求密度函数对数的导数3.计算fiser信息量4.代入C-R不等式求方差下界5.计算最小方差无偏估计的方差第二十五页，共三十页，2022年，8月28日262、有效估计1)

定义2.8P57第二十六页，共三十页，2022年，8月28日

例2.24

设X1,X2,…Xn

是取自总体X~B(N,p)的一个样本，验证

是参数P的有效估计量.1.写出概率函数,再求对数2.计算fiser信息量3.代入C-R不等式求方差下界第二十七页