充分统计量与完备统计量

1、充分统计量与完备统计量第一页，共26页。 为了推断总体分布的未知参数，需要把样本中关于为了推断总体分布的未知参数，需要把样本中关于未知参数的信息未知参数的信息“提炼提炼“出来，即构造合适的统计出来，即构造合适的统计量量样本的函数样本的函数 f(X1,X2,Xn) 例例 为研究某个运动员的打靶命中率，我们对该运为研究某个运动员的打靶命中率，我们对该运动员进行测试，观测其动员进行测试，观测其10次，发现除第三、六次未次，发现除第三、六次未命中外，其余命中外，其余8次都命中。这样的观测结果包含了次都命中。这样的观测结果包含了两两种信息：种信息：(1)(1)打靶打靶1010次命中次命中8 8次；次；(

2、2)2(2)2次不命中分别出现在第次不命中分别出现在第3 3次和第次和第6 6次打靶上。次打靶上。 第二种信息对了解该运动员的命中率是没有什么第二种信息对了解该运动员的命中率是没有什么帮助的。帮助的。第二页，共26页。 一般地，设我们对该运动员进行一般地，设我们对该运动员进行n 次观测，得到次观测，得到 x1, x2, xn，每个，每个xj 取值非取值非0即即1，命中，命中1，不命中为，不命中为0。 令令 T = x1+xn ，T为观测到的命中次数。在为观测到的命中次数。在这种场合仅仅记录使用这种场合仅仅记录使用T 不会丢失任何与命中率不会丢失任何与命中率 有关的信息。有关的信息。 显然，一个

3、显然，一个“好好”的统计量应该能够将样本中的统计量应该能够将样本中所包含的关于未知参数的信息全部提炼出来，而不所包含的关于未知参数的信息全部提炼出来，而不没有任何有用信息损失，这就是英国著名统计学家没有任何有用信息损失，这就是英国著名统计学家Fisher于于19221922年提出的一个重要的概念年提出的一个重要的概念-充分充分统计量。统计量。第三页，共26页。 样本样本X1,X2,Xn 有一个样本分布有一个样本分布F (x)，这个分布，这个分布包含了样本中一切有关包含了样本中一切有关 的信息。统计量的信息。统计量T =T(X1,X2,Xn) 也有一个抽样分布也有一个抽样分布FT(t) 。 当我

4、们期望用统计量当我们期望用统计量T 代替原始样本并且不损失代替原始样本并且不损失任何有关任何有关 的信息时，也就是期望抽样分布的信息时，也就是期望抽样分布FT(t) 像像 F (x) 一样概括了有关一样概括了有关 的一切信息。的一切信息。 这即是说在统计量这即是说在统计量T 的取值为的取值为 t 的情况下样本的情况下样本 x 的条件分布的条件分布F(x|T=t) 已不含已不含 的信息，这正是统的信息，这正是统计量具有充分性的含义。计量具有充分性的含义。第四页，共26页。()(1),0,1, .kknknP n XkC ppkn 设设 nxxx,21, ,为样本观测值，其中为样本观测值，其中0,

5、1.ix 如果已如果已知知nkX 则样本则样本 nXXX,21的条件概率的条件概率 第五页，共26页。11221122(,)(,)()nnnnkPXxXxXxXnkPXxXxXxXnkPXn 112211(,),()0,nnniiniiP XxXxXxxkP n Xkxk如果，如果， 第六页，共26页。112211(,),()0,nnniiniiP XxXxXxxkP n Xkxk如果，如果， 1111(1),(1)0,nniiiixnxnikknkinniippxkCppxk如 果，如 果， 111,0 ,nikinniixkCxk如果，如果，与与 p 无关，所以无关，所以 X为为 p 的充

6、分统计量的充分统计量. 第七页，共26页。第八页，共26页。二、二、 因子分解定理因子分解定理 根据充分统计量的含义，在对总体未知参数进行推根据充分统计量的含义，在对总体未知参数进行推断时，应在可能的情况下尽量找出关于未知参数的充分断时，应在可能的情况下尽量找出关于未知参数的充分统计量。统计量。 但从定义出发来判别一个统计量是否是充分统计量但从定义出发来判别一个统计量是否是充分统计量是很麻烦的。是很麻烦的。 为此，需要一个简单的判别准则。下面给出一个为此，需要一个简单的判别准则。下面给出一个定理定理因子分解定理因子分解定理，运用这个定理，判别甚至寻，运用这个定理，判别甚至寻找一个充分统计量有时

7、会很方便。找一个充分统计量有时会很方便。第九页，共26页。 第十页，共26页。第十一页，共26页。例例1.4 根据因子分解定理证明例根据因子分解定理证明例1.3。 证明证明 样本的联合分布律为样本的联合分布律为 niiNIixnxnnppxXxXxXP11)1(,2211 niixnppp1)1()1( 若取若取 niinxnxxxT1211),( 1),(21 nxxxh nTnnppppxxxTg)1()1();,(21 则有则有 nnxXxXxXP ,2211 );,(),(2121pxxxTgxxxhnn 由由 因因 子子 分分 解解 定定 理理 知知 ， niinXXnXXXT121

8、1),(是是p的的充充 分分 统统 计计 量量 。 第十二页，共26页。若取若取 niinxnxxxT1211),( niinxxxxh121!1),( nnTnexxxTg );,(21 则则 nnxXxXxXP ,2211 );,(),(2121 nnxxxTgxxxh 由由因因子子分分解解定定理理知知，XXXXTn ),(21是是 的的充充分分统统计计量量。 证证明明 样样本本),(21nXXX的的联联合合分分布布律律为为 第十三页，共26页。证证明明 样样本本的的联联合合分分布布密密度度为为 niinxL122)(21exp)2(1)( niinnxnx122222221exp)2(1

9、 );,(),(2121 nnxxxTgxxxh ， 其中1),(21 nxxxh， 第十四页，共26页。而而);,(21 nxxxTg显显然然是是),(12 niixxT和和),(2 的的函函数数。 第十五页，共26页。三、完备统计量三、完备统计量 为了介绍完备统计量的概念，首先需要引入完备分布函为了介绍完备统计量的概念，首先需要引入完备分布函数族的概念。数族的概念。 第十六页，共26页。 完备统计量的含义不如充分统计量那么明确，但由定完备统计量的含义不如充分统计量那么明确，但由定义可见它有如下特征：义可见它有如下特征： 第十七页，共26页。 1)()(21 TgTgP ， )()(21Tg

10、ETgE ， ， 但反之不成立，但反之不成立， 对对于于一一般般的的统统计计),(21nXXXTT ，总总有有 第十八页，共26页。设设)(Xg使得使得 nkknkknpppCnkgXgE00)1()(，对一切，对一切10 p， 第十九页，共26页。即即 01)1(0 kknnknppCnkgp，对对一一切切10 p 或或 010 kknnkppCnkg，对一切，对一切10 p。 上上式式是是关关于于 pp1的的多多项项式式，对对一一切切10 p要要使使多多项项式式值值为为零零， 只只能能是是它它的的每每项项系系数数为为零零， 即即), 2 , 1 , 0(0nknkg 。所所以以X是是完完备备统统计计量量。 第二十页，共26页。 如果一个统计量既是充分的，又是完备的，则称为如果一个统计量既是充分的，又是完备的，则称为充分完备统计量充分完备统计量。在寻求总体分布中未知参数的。在寻求总体分布中未知参数的优良估计中，充分完备统计量扮演着重要的角色。优良估计中，充分完备统计量扮演着重要的角色。 第二十一页，共26页。四、指数型分布族四、指数型分布族第二十二页，共26页。第二十