概率统计：第八章 参数估计(第二节估计优良性)

1、 第八章 参数估计 第二节 点估计量的优良性 上一节中，我们介绍了估计总体参数的两个常用的方法：矩估计法和极大似然估计法。并且已经知道，对于同一个参数，用矩估计法和极大似然估计法得出的估计量有的时候是相同的，有的时候是不同的，即对于同一个参数,可以有多个估计量等,究竟采用哪一个估计量好呢？这就涉及到用什么标准来评价估计量好坏的问题。通常采用下列标准。一、无偏估计这里我们给出一种对任何样本容量都适用的评价估计量好坏的准则。我们知道总体均值的矩估计是，它的数学期望和方差分别为 , .从此可以看出，用样本均值作为总体均值的估计，虽然没有说明用个别的来估计是偏差有多大，但这种偏差只能是随机的。估计只是

2、在的两旁随机的摆动，在大数次重复取样下不会系统的引起过高或过低的偏差，而平均起来却集中于，即。这是估计量应具有的一种良好性质。没有系统性偏差的性质在统计学上称作无偏性。显然它可以作为衡量估计量估计量好坏的一个准则。定义2 设（简记为）为未知参数的估计量，若 , (8.5)则称为的无偏估计。例1 样本均值和样本方差分别是总体均值和总体方差的无偏估计量.解 设为来自于总体的样本,总体均值,总体方差;则独立且与同分布, ,;,要求,; , ,计算方法1 ;方法2 , , ;方法3 , , ,故 . 但是，不是总体方差的无偏估计。事实上， ,所以，它是有偏的.例2 设总体的概率密度为 ,为来自总体的样

3、本.(1)求总体均值,总体方差(2)求的矩估计量;(3)是否为的无偏估计？(4)求的方差 .解 (1)总体均值 ; ;总体方差;(2)令,即, 得的矩估计量为;(3),所以是的无偏估计;(4)的方差 . .例3 设总体X，X，X，X是来自X的一个样本，试确定常数C，使为的无偏估计。解法一 因为，故 , ,()( 若写出,则错了,因为不独立.)故 ,而由 得到 于是 ，故。解法二 因为独立同分布,()，因而 ， ，故 。解法三 , ,因独立同分布，故 ， , ,于是 为使其为的无偏估计，必有 ，即。 解法四 由得到 故 。 注意 上例解法四推演步骤甚多，但其使用的手法是很重要的。这个手法就是遇有

4、随即变量之差的平方时，将这个差变形为 ，从而将差的平方与方差联系起来。显然，由例1我们看到，X，（）和都是总体均值的无偏估计。同时总体均值的无偏估计，究竟哪个“最佳”？这就涉及到第二个标准。 二、最小方差无偏估计 设是的无偏估计量，,我们很自然的要求与尽可能接近，也即要尽量小。而 ,这就看出，当是的无偏估计量时，其方差越小越好。因此方差最小的无偏估计就是一个“最佳”的估计。 定义3 设是的一个无偏估计，若对于的任一无偏估计，成立 ,则称是的最小方差无偏估计。例2设为来自于总体的样本,总体均值,总体方差,求的最小方差线性无偏估计。解 已知独立且与同分布, ,; 的线性估计是将的线性函数 作为的估

5、计量。问题是如何选取的值，使得无偏性和最小方差这两个要求都能得到满足。易知 , , 无偏性要求,最小方差要求达到最小；利用Cauchy不等式得，且等号成立，当且仅当全相等，记，由条件 ,得到，于是当时，达到最小；故,是的最小方差无偏估计。从这里，我们看到了选取样本均值作为总体均值的估计的优良性质。若和都是的无偏估计量，且成立，则通常称估计量较有效,或较佳,或较优.例 设为总体的一个样本,试证下列估计量,都是总体均值的无偏估计量,且问哪一个最佳？证明 已知独立同分布, , 所以都是的无偏估计量; , , 于是,故最佳.三、一致估计设为总体参数的估计量，显然与样本有关，我们希望会随着样本容量的增大而越接近于，这一要求便是衡量估计量好坏的另一标准。定义4 设为未知参数的估计量，若依概率收敛于，即对任意的,成立 , (8.7)或 , 则称为的一致性估计。例8试证样本均值为总体均值的一致性估计。证 因为 ,所以，对于相互独立且服从同一分布的随机变量，由大数定理，即得 , . 此外，还可证明样本方差是总体方差的一致性估计。 还有别的