数理统计课件：充分统计量

充分统计量统计量是对样本的简化，希望：简化程度高，同时信息损失少.一个统计量能集中样本中信息的多少，与统计量的具体形式有关，也依赖于问题的统计模型，我们希望所用的统计量能把样本中关于未知参数的信息全部“提炼”起来，即说不损失(重要)信息的统计量——充分统计量.问题：如何定义一个统计量是充分统计量？引例：设X=(X1,X2,…,Xn)是从0-1分布中抽取的简单随机样本，且P{Xi=1}=

,P{Xi=0}=1-

,记若只对

作推断，

T(X)与样本含的信息一样，即T(X)应该是充分统计量.则T(X)与样本(X1,X2,…,Xn)相差的仅仅是，

X1,X2,…,Xn中1的具体位置.样本(X1,X2,…,Xn)加工成统计量T(X1,X2,…,Xn)后，一般来说在信息上会有所损失，但是如果加工抓住了问题的实质，回到引例直观上：如果一个统计量满足这个要求，就称其为充分统计量.即：统计量T(X1,X2,…,Xn)保留了样本(X1,X2,…,Xn)中所含参数

的全部信息，丢掉的就是一些无关紧要的东西.样本X1,X2,…,Xn的分布，记

如何定义充分统计量？统计量T(X)的分布关于样本X=(X1,X2,…,Xn)的信息可以设想成如下公式{样本X中的信息}={T(X)中所含样本的信息}+{除了T(X)中的信息外，样本X含有的信息}因此T(X)为充分统计量的要求归结为要求后一项信息为0用统计语言描述为，即要求与

无关，其中A为任一事件.2.5.1充分统计量的定义和例子定义2.5.1设样本X1,X2,…,Xn的分布族为设T=T(X1,X2,…,Xn)为一统计量，若在给定T的条件下，样本X1,X2,…,Xn的条件分布与参数

无关，则称统计量T(X1,X2,…,Xn)为参数

的充分统计量.说明：1.充分统计量必存在.2.条件分布的作用是抽取信息.实际应用时，条件分布用条件概率(离散情形)和条件密度函数(连续情形)代替.样本本身是充分统计量，顺序统计量是充分统计量.3.充分统计量可以是向量，即不一定与参数的维数相同.(例2.5.9)为充分统计量.记T=T(X1,X2,…,Xn)，按照定义只要证明下列条件概率与参数

无关.证明：例2.5.1

设X1,X2,…,Xn是来自两点分布总体B(1,

)的样本，证明两点分布的分布列为当T=t

时，有因此，有上述条件概率与参数

无关.因此是充分统计量.为充分统计量.记T=T(X1,X2,…,Xn)，按照定义只要证明下列条件概率与参数

无关.证明：例2.5.2

设X1,X2,…,Xn是来自几何分布总体G(

)的样本，证明几何分布的分布列为由几何分布的性质知，T的分布列为当T=t

时，有因此，有上述条件概率与参数

无关.因此是充分统计量.因此，T(X1,X2,…,Xn)=X1不是充分统计量.证明：与µ有关.例2.5.3设X1,X2,…,Xn是来自正态总体N(µ，1)的样本，则不是充分统计量.记T=T(X1,X2,…,Xn)，在T=x1条件下，X1,X2,…,Xn的条件密度函数为证明：例2.5.4设X1,X2,…,Xn是来自正态总体N(µ，1)的样本，证明为充分统计量.记T=T(X1,X2,…,Xn)，由正态分布的性质知，在给定在T=t

条件下，X1,X2,…,Xn的条件密度函数为上述条件密度函数与参数与µ

有关，因此为充分统计量.例2.5.4中，仅有一个未知参数

µ

，如果其方差也是未知的，则利用定义来求充分统计量比较困难；从上面的例子也可以看出，求充分统计量，必须先猜测一个统计量，之后再用定义证明，这很不便于利用，于是有如下的因子分解定理.2.5.2因子分解定理因子分解定理是由R.A.Fisher在20世纪20年代提出，它的一般形式和严格数学证明是由Halmos和Savage在1949年给出.T=T(X1,X2,…,Xn)是充分统计量的充要条件是f(x1,x2,…,xn,

),可以分解为定理2.5.1(因子分解定理)设样本X1,X2,…,Xn的联合密度函数(或联合分布列)为f(x1,x2,…,xn,

),T=T(X1,X2,…,Xn)是一个统计量，则其中

h(x1,x2,…,xn)不依赖于参数

.充分统计量的一一变换不改变统计量的充分性.证明：存在逆函数T=k(S)，因为

S

(T)是单值可逆函数，根据因子分解定理取则根据因子分解定理，S

(T)是

的充分统计量.推论2.5.1设T=T(X1,X2,…,Xn)为

的充分统计量，S(T)是单值可逆函数，则S(T)也是

的充分统计量.证明：例2.5.5设X1,X2,…,Xn是来自正态总体N(µ，1)的样本，证明为充分统计量.由例2.5.4是参数µ的充分统计量,因为

与一一对应.因此是µ的充分统计量.但是不是µ的充分统计量.样本X1,X2,…,Xn的联合分布列为根据因子分解定理，知为充分统计量.证明:其中h(x1,x2,…,xn)=1.为充分统计量.例2.5.6

设X1,X2,…,Xn是来自两点分布总体B(1,

)的样本，则样本X1,X2,…,Xn

的联合密度函数为为充分统计量.

证明:其中h(x1,x2,…,xn)=1.例2.5.7设X1,X2,…,Xn是来自正态总体N(µ，σ2)的样本，令

=(µ，σ2)，则根据因子分解定理，知为充分统计量.由于与为一一对应的变换.根据推论2.5.1可知也为充分统计量.为充分统计量.根据因子分解定理，知为充分统计量.其中例2.5.8设X1,X2,…,Xn是来自均匀分布总体U[0，

]的样本，则样本X1,X2,…,Xn

的联合密度函数为证明:为充分统计量.例2.5.9设X1,X2,…,Xn是来自均匀分布U[

-1/2，

+1/2]的样本，则证明:样本X1,X2,…,Xn

的联合密度函数为根据因子分解定理，知为充分统计量.其中h(x1,x2,…,xn)=1.思考：是否是充分统计量？若为充分统计量.则它必能由因子分解定理表示出来.根据上述证明说明不能表示成的形式.因此，不是充分统计量.为充分统计量.例2.5.10(指数族中统计量的充分性)设X1,X2,…,Xn是从下面指数族中抽取的样本，指数族的形式为其中x=(x1,x2,…,xn)