概率统计 2估计量的评价标准

1、.1第三节 估计量的评选标准.2一、问题的提出 从前一节可以看到从前一节可以看到, 对于同一个参数对于同一个参数, 用不用不同的估计方法求出的估计量可能不相同同的估计方法求出的估计量可能不相同, 矩估计、矩估计、极大似然估计、极大似然估计、Bayes估计等估计等. 而且而且, 很明显很明显, 原原则上任何统计量都可以作为未知参数的估计量则上任何统计量都可以作为未知参数的估计量.问题问题(1)对于同一个参数究竟采用哪一个估计量好对于同一个参数究竟采用哪一个估计量好?(2)评价估计量的标准是什么评价估计量的标准是什么?下面介绍几个常用标准下面介绍几个常用标准.3二、无偏性的的一一个个样样本本，为为

2、总总体体若若XXXXn,21 ,的分布中的待估参数的分布中的待估参数是包含在总体是包含在总体 X )(的的取取值值范范围围是是 . ,)( ,)(),(21的无偏估计量的无偏估计量是是则称则称有有且对于任意且对于任意存在存在的数学期望的数学期望若估计量若估计量 EEXXXn无偏估计的实际意义无偏估计的实际意义: 无系统误差无系统误差.4.1 , ,)1()(121的无偏估计的无偏估计阶总体矩阶总体矩是是阶样本矩阶样本矩总体服从什么分布总体服从什么分布论论的一个样本，试证明不的一个样本，试证明不是是又设又设存在存在阶矩阶矩的的设总体设总体knikiknkkkXnAkXXXXkXEkX 证证同同分

3、分布布，与与因因为为XXXXn,21)()(kkiXEXE 故故有有., 2 , 1,nik nikikXEnAE1)(1)(即即.k 例例1.5. 的的无无偏偏估估计计阶阶总总体体矩矩是是阶阶样样本本矩矩故故kkkAk 特别的特别的:. )( 1估计量估计量的无偏的无偏的数学期望的数学期望总是总体总是总体XEXX 不论总体不论总体 X 服从什么分布服从什么分布,只要它的数学期望存在只要它的数学期望存在,.6).()(1 , , , 0 , 122222即不是无偏估计即不是无偏估计有偏的有偏的是是的估计量的估计量则则均为未知均为未知若若都存在的总体都存在的总体方差方差对于均值对于均值 niiX

4、Xn 证证 niiXXn12221 ,22XA 22)( AE因因为为,22 22)()()( XEXDXE 又又因因为为,22 n)()( 222XAEE 所以所以)()(22XEAE 例例2.7,122 nn. 2是有偏的是有偏的所以所以 . , 1 2偏的偏的所得到的估计量就是无所得到的估计量就是无乘乘若以若以 nn(这种方法称为这种方法称为无偏化无偏化).)(11222 EnnnnE221 Snn 因为因为, )(1112 niiXXn, 22的的无无偏偏估估计计是是即即 S.22的的估估计计量量作作故故通通常常取取 S.8. ),(,2221的的无无偏偏估估计计量量的的样样本本，试试

5、求求是是来来自自正正态态总总体体设设 NXXXn解解),1(1222 nSn 由定理二知由定理二知xxnxSnEnxnde212110121221 xxnnxnde2121012221 ,2122 nn 例例3（略略）.9,21212)( nnnSE, 的的无无偏偏估估计计量量不不是是故故 S. 22121的的无无偏偏估估计计量量是是 Snnn .101212 0, ,0, ,21max(,).nnXXXXXXnXXXn设总体在上服从均匀分布 参数是来自总体的样本，试证明和都是 的无偏估计证证)(2)2(XEXE 因为因为)(2XE ,22 . 2的无偏估计量的无偏估计量是是所以所以 X的的概

6、概率率密密度度为为因因为为),max( 21nhXXXX 其其他他, 0,0,)(1 xnxxfnn例例4.11xnxxXEnnhd)(01 所所以以,1 nn,1 hXnnE故有故有.),max(121的无偏估计量的无偏估计量也是也是故故 nXXXnn .12.),min(, 0, ., 0, 0,e1);(, 2121的无偏估计的无偏估计都是都是和和试证试证样本样本的的是来自总体是来自总体又设又设其中参数其中参数其他其他概率密度概率密度的指数分布的指数分布服从参数为服从参数为设总体设总体 nnxXXXnnZXXXXXxxfX 证明证明)(XE因为因为,)( XE. 的的无无偏偏估估计计量量

7、是是所所以以 X例例5.13, ),min( 21的的指指数数分分布布服服从从参参数数为为而而nXXXZn ., 0, 0,e);(min其其他他概概率率密密度度xnxfnx ,)( nZE 故知故知,)( nZE. 的无偏估计量的无偏估计量也是也是所以所以 nZ 由以上两例可知由以上两例可知,一个参数可以有不同的无一个参数可以有不同的无偏估计量偏估计量.14三、有效性. , ,212121有效有效较较则认为则认为更密集更密集的附近较的附近较的观察值在真值的观察值在真值相同的情况下相同的情况下在样本容量在样本容量如果如果和和的两个无偏估计量的两个无偏估计量比较参数比较参数 n 由于方差是随机变

8、量取值与其数学期望的由于方差是随机变量取值与其数学期望的偏离程度偏离程度, 所以无偏估计以方差小者为好所以无偏估计以方差小者为好.),()( ,),(),(212121222111有有效效较较则则称称若若有有的的无无偏偏估估计计量量都都是是与与设设 DDXXXXXXnn .15 .,1有有效效较较的的无无偏偏估估计计量量时时试试证证当当nZXn 证明证明,)( 2 XD由由于于,)( 2nXD 故故有有,)( 22nZD 又因为又因为,)( 2 nZD故故有有 ,1时时当当 n),()(XDnZD . 有效有效较较的无偏估计量的无偏估计量故故nZX 例例6 (续例续例5).16 . ,2, ,

9、max124122121有有效效较较时时现现证证当当计计量量的的无无偏偏估估都都是是和和中中已已证证明明在在例例 nXXXnnXn证明证明)(4)( 1XDD 由由于于,3)(42nXDn hXnnDD1)( 2 ,12hXDnn ,1)( nnXEh 又又因因为为例例7 (续例续例4).17xxnXEnnhd)(102 ,22 nn22)()()(hhhXEXEXD ,)2()1(22 nnn,)2(1)( 22 nnD故故 ),()( , 212 DDn 所以所以又又 .12有效有效较较 .18四、相合性（一致性）. ,),(, ,),(2121的相合估计量的相合估计量为为则称则称依概率收

10、敛于依概率收敛于时时当当若对于任意若对于任意的估计量的估计量为参数为参数若若 nnXXXnXXX 例如例如 ,)( )1( ,的相合估计量的相合估计量阶矩阶矩的的总体总体阶矩是阶矩是样本样本由第六章第二节知由第六章第二节知kkXEkXkk .),(),( ,),(212121的相合估计量的相合估计量是是的矩估计量的矩估计量则则函数函数为连续为连续其中其中进而若待估参数进而若待估参数 nnnAAAgggg .19 . 1 11 , :2122122估计量估计量的相合的相合都是总体方差都是总体方差中心矩中心矩及样本的二阶及样本的二阶样本方差样本方差量量的相合估计的相合估计是总体均值是总体均值样本均

11、值样本均值试证试证 niiniiXXnBXXnSX证明证明 由大数定律知由大数定律知, , 0 , 11lim 1 niinXnP有有. 1 1的的相相合合估估计计量量是是所所以以 niiXnX例例8.20 niiXXnB122)(1 又又 niiiXXXXn122)2(1 niiXXn1221,22XA )(2是样本二阶原点矩是样本二阶原点矩A由大数定律知由大数定律知, , )(12122XEXnAnii依概率收敛于依概率收敛于 , )(11XEXnXnii依概率收敛于依概率收敛于 .21222 XAB 故故 )()(22XEXE 依依概概率率收收敛敛于于,2 . 22的相合估计量的相合估计量是是所以所以 B , 11lim nnn又又 . 1 222的相合估计量的相合估计量也是也是所以所以 BnnS .22五、小结估计量的评选的三个标准估计量的评选的三个标准 无偏性无偏性有效性有效性相合性相合性 相合性是对估计量的一个基本要求相合性是对估计量的一个基本要求, 不具备不具备相合性的估计量是不予以考虑的相合性的估计量是不予以考虑的