61点估计的概念与无偏性

1、课题名称、授课时数： 6.1点估计的概念与无偏性(1.5)授课类型：理论课教学方法与手段：讲授教学目的与要求：理解参数估计中参数的意义，了解参数估计的形式， 理解点估计的概念、无偏估计、有效估计的意义，掌握总体均值、总体方差 的无偏估计.教学重点、难点： 点估计的概念，无偏估计、有效估计的意义.教学内容：6.1.1 .点估计与无偏性定义6.1.1设X ,X , ,X是来自总体的一个样本，用于估计未 12n知参数0的统计量0 =0(”, ,x)称为9的估计量，或称为9的点估计，简称估计.统计量如何构造并没有明确的规定，只要满足一定的合理性即可.最常见的合理性要求是所谓的无偏性.定义6.1.2设6

2、 =(气, ,X.)是0的一个估计，0的参数空间为，若对任意的0如有E0 (6) =0(6.1.1)则称是0的无偏估计，否则称为有偏估计.无偏估计的含义：无偏性要求可改写为E(0 -0) = 0，表示无偏估计没有系统偏差.在使用&估计。时，由于样本的随机性， 。与6总是有偏差的，这种偏差时而（对某些样本观测值）为正，时而（对某些样本观测值）为负，时而大，时而小.无偏 性表示把这些偏差平均起来其值为0.而若估计不具有无偏性， 则无论使用多少次，其平均也会与参数真值有一定的距离，这 个距离就是系统误差.例 6.1.1 （1）对任意总体X，若E（X） = |!，Var（X） =。2，x , x ,

3、, x是来自X的样本，则E（X ）=旦， E （ S 2）= 12 n（2）当总体x的k阶矩存在时，样本的k阶原点矩匕是 总体k阶原点矩pk的无偏估计.但对k阶中心矩则不一样.证明：(1). E(X) = E(1Xx ) = 1 E(x ) = 1n.n , i n , i ， n - X是p的无偏估计.又因为对任意的随机变量X有：Var (X ) = E (X 2) - E (X )2，从而 E(X 2) = Var(X) + E(X)2，-1X Var (x )= n 2ii=11nb 2 n2Var(X) = Var(上 Xx )=i=1所以 E(S2) = E 1 X (x - x)2

4、 = E 1 (X x2 - nx 2) n -1 in -1 ii 1=土归（、2）-姑（无 2） n-1 i i=l1 寸cy 2E （。2 + pi2）-n（ + pt2）n-1ni=l1 z 、 （mCJ 2 + |Ll 2 O 2 |Ll 2 ） = 0 2 . n-1故S2 =（X -无）2是（J2的无偏估计n-1i=l而 S2=-（1 -无）2不是0 2的无偏估计.n ni=l由于$2=生11S2，n n故 E（S2）= 土E（Skg .2 TOC o 1-5 h z n nn由此知：米用$2作为b 2的估计量，不会产生系统偏差.(2) I “ 与总体x同分布，所以, 12 nE

5、(xk) = E(Xk) = ill , i 1,2, ,n, k = 1,2,， ik. E(d ) E(Xk ) q E(#) = ni = pt k n i n i n k k i=lk=l故是曰的无偏估计.k k由(1)知：对于化阶中心矩则不一样($2不是02的无偏 n估计).由于E(S2)= E1o2 。2,因此用聂估计。2有偏小的倾向， n nn特别在小样本情况下要使用S2作为g的估计量(当 心2时，S2S2）.因此无偏估计是对小容量样本的要求.无偏性不具有不变性.即若6是o的无偏估计，一般而言, 其函数g（6）不是g（o）的无偏估计，除非g（o）是e的线性函数.例6.1.2设总体

6、为N（ptq2）心工，次是样本，已知分析：由定理541知，y =（T）s2 %2（1）,密度为从而EJ2n=l2 2 ry2yedy o令y=2x,则J00一M（2x）=2； J所以由此有(1 E (s) = - E y2 n -1r(n 2)_a(n-1) 2) = C n这说明E(S)隼，利用修正技术可使? s是a的无偏估计，其中cn号.-?)2)是修偏系数，表6.1.1给出了 c的部分取值.可以证明，当n * 时有cn_ 1，说明s是a的渐近无偏估计， 从而在样本容量较大时，不经修正的s也是a的一个很好的估 计.有时参数0的无偏估计又不止一个.例(补充)从均值为日，方差为a 2的总体X中

7、取容量为3的样本：x , x , x，则 TOC o 1-5 h z 123口 = x,口 =Lx +x + x, 口 = x.122 13 26 332都是日的无偏估计.证明：E(口 1)= E(x)=目，E (口 ) =1E (x ) +1E (x ) +1E (x )=目，2213263E (|! ) = E (x )=日. 32|1, 口，口都是四的无偏估计.如何选择H的估计？希望估计围绕0的真值的波动越小越 好.而波动的大小可用方差衡量.6.1.2.有效性定义6.1.3设目和目都是的无偏估计，如果对任意的0 g有Var (0 ) Var (0 )12且至少有一个0 g使得上述不等号严

8、格成立，则称0比02有效.在上例中，Var(0 ) = Var(x) =-o 2, Var(0 ) = o 2, Var( ) =a2，132， 363Z因3 幕 1，所以，广x是日的有效估计.即在样本中，用全部数据的平均估计总体均值比只使用部分数据更有效.例(补充)证明在样本的一切线性组合中，x是总体期望 值日的无偏估计中最有效的估计量(例6.1.5的结论).证：设x ,x ,，x是来自总体X的样本，a x + a x + + a x12n112 2n n是样本的一个线性组合，x =1 Ex，一n ii=1因为ax +ax+ +ax是总体期望值日的无偏估计，所以 1122nnE(ax + a

9、 x + + a x ) = E(X)=日，由期望的性质知：Ea = 11122nnii=1又有方差的性质知：Var (a x + a x + + a x ) = a 2Var (x ) + a 2Var (x ) + + a 2Var (x )112 2n n 1122nn=(a2 + a2 + + a2)Var(X)， TOC o 1-5 h z 12nVar(无)=1 Var(X)，n问题转化为：判断:Sa2与1的大小. i=1n由不等式：a2+a2 22aa.有：(a + a )2 = a2 + a2 + 2a a 2(a2 + a2)，12121 212(a + a + a )2 =

10、 a2 + a2 + a2 + 2a a + 2a a + 2a a1231231 21 32 3 a 2 + a 2 + a 2 + a 2 + a 2 + a 2 + a 2 + a 2 + a 21231213231由数学归纳法可证得:=3(a2 + a2 + a2)，(a )2 (Li a )=， n n= 1 Var(ax ) Var X ，)= 1当a, = :, i = 1,2, , n.时，“=”成立，否则“”成立.在样本的一切线性组合中，X是总体期望值口的有效估计.例(补充)设总体为N J ,6 ), X , X ., X是样本，其中日已 012 n0知，而6未知，证明下列统

11、计量(1)S2 =上X3 -元)2 ；(2) T2 = 1XGn 1 _ 11n _ 110都是a2的无偏估计，但后者比前者有效.证明已知E (s 2 )=。2，且E(T2)= 1 XeG 一 口 )2 = -XLvar(x) = a2.n i=1n i=1又因为总体为N(、,a2),根据抽样分布理论知：(n 1) S2x 2 (n 1)；“史也 J =史12 Var (S 2 )= 2 (n -1);Var 从而有a2a 4n Var (S 2 )=竺4; n 1 Var 四 J = Var (T 2 )= 2n n Var (T 2 )=主.n所以Var (S 2 ) Var (T 2).例6.1.6设x, , X是来自均匀总体U (o,o )的样本，可用最大观测值x()来估计o (参见例6.3.5)，由于X (x)=1, (0 xo); F (x)= X, (o X(n+1)2 (n+