《概率论与数理统计》第六章 讲义

§6.1点估计的几种方法§6.2点估计的评价标准§6.3最大似然估计§6.4最小方差无偏估计§6.6区间估计

第六章参数估计一般常用

表示参数，参数

所有可能取值组成的集合称为参数空间，常用

表示。参数估计问题就是根据样本对上述各种未知参数作出估计。参数估计的形式有两种：点估计与区间估计。设x1,x2,…,xn是来自总体X的一个样本，我们用一个统计量的取值作为

的估计值，称为

的点估计（量），简称估计。在这里如何构造统计量并没有明确的规定，只要它满足一定的合理性即可。这就涉及到两个问题：

其一

是如何给出估计，即估计的方法问题；

其二

是如何对不同的估计进行评价，即估计的好坏判断标准。6.1.1

替换原理和矩法估计

一、矩法估计

替换原理是指用样本矩及其函数去替换相应的总体矩及其函数，譬如：用样本均值估计总体均值E(X)，即；用样本方差估计总体方差Var(X)，即用样本的p分位数估计总体的p分位数，用样本中位数估计总体中位数。

6.1点估计的几种方法例6.1.1

对某型号的20辆汽车记录其每加仑汽油的行驶里程(km)，观测数据如下：29.827.628.327.930.128.729.928.027.928.728.427.229.528.528.030.029.129.829.626.9经计算有

由此给出总体均值、方差和中位数的估计分别为:28.695,0.9185和28.6。矩法估计的实质是用经验分布函数去替换总体分布，其理论基础是格里纹科定理。

设总体具有已知的概率函数P(x,

1,

…,

k)，

x1,x2

,

…,xn是样本，假定总体的k阶原点矩

k存在，若

1,

…,

k能够表示成

1,

…,

k的函数

j=

j(

1,

…,

k)，则可给出诸

j的矩法估计为

其中例6.1.2设总体服从指数分布，由于EX=1/

，即

=1/EX，故

的矩法估计为

另外，由于Var(X)=1/

2，其反函数为因此，从替换原理来看，

的矩法估计也可取为

s为样本标准差。这说明矩估计可能是不唯一的，这是矩法估计的一个缺点，此时通常应该尽量采用低阶矩给出未知参数的估计。例6.1.3

x1,x2,

…,xn是来自(a,b)上的均匀分布U(a,b)的样本，a与b均是未知参数，这里k=2，由于不难推出由此即可得到a,b的矩估计：6.2.1

相合性Consistency

我们知道，点估计是一个统计量，因此它是一个随机变量，在样本量一定的条件下，我们不可能要求它完全等同于参数的真实取值。但如果我们有足够的观测值，根据格里纹科定理，随着样本量的不断增大，经验分布函数逼近真实分布函数，因此完全可以要求估计量随着样本量的不断增大而逼近参数真值，这就是相合性，严格定义如下。6.2点估计的评价标准定义6.2.1设

∈Θ为未知参数，是

的一个估计量，n是样本容量，若对任何一个ε>0，有(6.2.1)则称为

参数的相合估计。相合性被认为是对估计的一个最基本要求,如果一个估计量,在样本量不断增大时，它都不能把被估参数估计到任意指定的精度,那么这个估计是很值得怀疑的。通常,不满足相合性要求的估计一般不予考虑。证明估计的相合性一般可应用大数定律或直接由定义来证.若把依赖于样本量n的估计量看作一个随机变量序列,相合性就是依概率收敛于

,所以证明估计的相合性可应用依概率收敛的性质及各种大数定律。在判断估计的相合性时下述两个定理是很有用的。定理6.2.1设是

的一个估计量，若

则是

的相合估计，定理6.2.2

若分别是

1,

…,

k的相合估计，

=g(

1

,

…,

k)是

1,

…,

k的连续函数，则是

的相合估计。例6.2.2设x1,x2

,

…,xn是来自均匀总体U(0,

)的样本，证明

的极大似然估计是相合估计。证明：在例6.1.7中我们已经给出

的极大似然估计是x(n)。由次序统计量的分布，我们知道x(n)的分布密度函数为p(y)=nyn-1/

n,y<

,

故有由定理6.2.1可知，x(n)是

的相合估计。由大数定律及定理6.2.2，我们可以看到：矩估计一般都具有相合性。比如：

样本均值是总体均值的相合估计；样本标准差是总体标准差的相合估计；样本变异系数是总体变异系数的相合估计。定义6.2.2

设是

的一个估计，

的参数空间为Θ，若对任意的

∈Θ，有

则称是

的无偏估计，否则称为有偏估计。

无偏性Unbiasedness例6.2.4对任一总体而言，样本均值是总体均值的无偏估计。当总体k阶矩存在时，样本k阶原点矩ak是总体k阶原点矩

k的无偏估计。但对中心矩则不一样，譬如，由于，样本方差s*2不是总体方差

2的无偏估计，对此，有如下两点说明：

(1)当样本量趋于无穷时，有E(s*2)

2，我们称s*2为

2的渐近无偏估计。

(2)若对s*2作如下修正：，则s2是总体方差的无偏估计。例6.2.5设总体为N(

,

2)，x1,x2,

…,xn是样本，则s2是

2的无偏估计，且可求出这说明s不是

的无偏估计.利用修正技术可得cns是

的无偏估计，其中是修偏系数.可以证明，当n

时,有cn1.这说明s是

的渐近无偏估计。定义6.2.3设是

的两个无偏估计，如果对任意的

∈Θ,有且至少有一个

∈Θ使得上述不等号严格成立，则称比有效。

有效性Effectiveness例6.2.6设x1,x2

,

…,xn是取自某总体的样本，记总体均值为

，总体方差为

2，则,,都是

的无偏估计，但

显然，只要n>1，比有效。这表明用全部数据的平均估计总体均值要比只使用部分数据更有效。例6.2.7均匀总体U(0,

)中

的极大似然估计是x(n)，由于，所以x(n)不是

的无偏估计，而是

的渐近无偏估计。经过修偏后可以得到

的一个无偏估计：。且另一方面，由矩法我们可以得到

的另一个无偏估计，且由此，当n>1时，比有效。极大似然原理的直观想法是：一个随机试验如有若干个可能的结果A，B，C，…。若在一次试验中，结果A出现，则一般认为试验条件对A出现有利，也即A出现的概率很大。思想（idea）在已经得到试验结果的情况下，我们应该寻找使这个结果出现的可能性最大的那个作为真

的估计6.3极（最）大似然估计MaximumlikelihoodEstimation最大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。简单而言，假设我们要统计全国人口的身高，首先假设这个身高服从服从正态分布，但是该分布的均值与方差未知。我们没有人力与物力去统计全国每个人的身高，但是可以通过采样，获取部分人的身高，然后通过最大似然估计来获取上述假设中的正态分布的均值与方差。定义6.3.1设总体的概率函数为P(x;

)，

是参数

可能取值的参数空间，x1,x2

,…,xn是样本，将样本的联合概率函数看成

的函数，用L(

;x1,x2,

…,xn)表示，简记为L(

)，

称为样本的似然函数。

如果某统计量满足

则称是

的极(最)大似然估计，简记为MLE（MaximumLikelihoodEstimate）。

求极大似然函数估计值的一般步骤：（1）写出似然函数；（2）对似然函数取对数，并整理；（3）求导数；（4）解似然方程；（5）判断最大值人们通常更习惯于由对数似然函数lnL(

)出发寻找

的极大似然估计。当L(

)是可微函数时，求导是求极大似然估计最常用的方法，对lnL(

)求导更加简单些。例6.3.6设一个试验有三种可能结果，其发生概率分别为现做了n次试验，观测到三种结果发生的次数分别为n1,n2,n3(n1+n2+n3=n)，则似然函数为其对数似然函数为将之关于

求导，并令其为0得到似然方程解之，得由于所以是极大值点。例6.3.7对正态总体N(,2)，θ=(,2)是二维参数，设有样本x1,x2

,

…,xn，则似然函数及其对数分别为

将lnL(,2)分别关于两个分量求偏导并令其为0,即得到似然方程组

(6.3.9)

(6.3.10)

解此方程组，由(6.3.9)可得

的极大似然估计为将之代入(6.3.10)，得出

2的极大似然估计利用二阶导函数矩阵的非正定性可以说明上述估计使得似然函数取极大值。

虽然求导函数是求极大似然估计最常用的方法，但并不是在所有场合求导都是有效的。

极大似然估计有一个简单而有用的性质：如果是

的极大似然估计，则对任一函数g(

)，其极大似然估计为。该性质称为极大似然估计的不变性，从而使一些复杂结构的参数的极大似然估计的获得变得容易了。

例6.3.9

设x1,x2,

…,xn是来自正态总体N(

,

2)的样本，则

和

2的极大似然估计为，于是由不变性可得如下参数的极大似然估计，它们是:

标准差

的MLE是；概率的MLE是；总体0.90分位数x0.90=+

u0.90

的MLE是，其中u0.90为标准正态分布的0.90分位数。总结：极大似然估计，只是一种概率论在统计学的应用，它是参数估计的方法之一。已知某个随机样本满足某种概率分布，但是其中具体的参数不清楚，参数估计就是通过若干次试验，观察其结果，利用结果推出参数的大概值。极大似然估计是建立在这样的思想上：已知某个参数能使这个样本出现的概率最大，我们当然不会再去选择其他小概率的样本，所以干脆就把这个参数作为估计的真实值。确定最大似然估计量的问题归结为微分学求最大值问题当然极大似然估计只是一种粗略的数学期望，要知道它的误差大小还要做区间估计。統計學上，最小方差無偏估計（minimum-varianceunbiasedestimator，簡寫為MVUE）是一個對於所有無偏估計中，擁有最小方差的無偏估計。若無論真實參數值θ是多少，最小方差無偏估計（MVUE）都比其他不偏估計有更小或至多相等的方差，則稱此估計為一致最小方差無偏估計（uniformlyminimum-varianceunbiasedestimator，簡寫為UMVUE） -fromWikipedia6.4最小方差无偏估计minimum-varianceunbiasedestimatorAmongunbiasedestimators,oneimportantgoalistofindanestimatorthathasassmallavarianceaspossible,Amoreprecisegoalwouldbetofindanunbiasedestimatorthathasuniformminimumvariance.--USArizonaU

定义6.4.1对参数估计问题，设是

的一个无偏估计，如果对另外任意一个

的无偏估计，在参数空间Θ上都有

则称是

的一致最小方差无偏估计，简记为

UMVUE。如果UMVUE存在，则它一定是充分统计量的函数。6.4.2一致最小方差无偏估计

定理6.4.1

设x=(x1,x2

,

…,xn)是来自某总体的一个样本，是

的一个无偏估计，如果对任意一个满足E(

(x))=0的

(x)，都有则是

的UMVUE。关于UMVUE，有如下一个判断准则。例6.4.2设x1,x2

,…,xn是来自指数分布Exp(1/

)的样本，则T=x1+…+xn是

的充分统计量，而是

的无偏估计。设

=

(x1,x2,

…,xn)是0的任一无偏估计，则

两端对

求导得这说明，从而，由定理6.4.1，它是

的UMVUE。6.4.1

Rao-Blackwell定理

定理6.4.2

设总体概率函数是

p(x,

)，x1,x2

,

…,xn

是其样本，T=T(x1,x2

,

…,xn)是

的充分统计量，则对

的任一无偏估计，令，则也是

的无偏估计，且

定理6.4.2说明：如果无偏估计不是充分统计量的函数，则将之对充分统计量求条件期望可以得到一个新的无偏估计，该估计的方差比原来的估计的方差要小，从而降低了无偏估计的方差。换言之，考虑

的估计问题只需要在基于充分统计量的函数中进行即可，该说法对所有的统计推断问题都是正确的，这便是所谓的充分性原则。

例6.4.1

设x1,x2

,

…,xn是来自b(1,p)的样本，则是p的充分统计量。为估计

=p2，可令由于，所以是

的无偏估计。这个只使用了两个观测值的估计并不好.下面我们用Rao-Blackwell定理对之加以改进：求关于充分统计量的条件期望，得定义6.4.3设总体的概率函数P(x,

),

∈Θ满足下列条件：(1)参数空间Θ是直线上的一个开区间；(2)支撑S={x:P(x,

)>0}与

无关；(3)导数对一切

∈Θ都存在；(4)对P(x,

)，积分与微分运算可交换次序；(5)期望存在；则称为总体分布的费希尔(Fisher)信息量。

6.4.4Cramér–Rao不等式Inequality费希尔信息量是数理统计学中一个基本概念，很多的统计结果都与费希尔信息量有关。如极大似然估计的渐近方差，无偏估计的方差的下界等都与费希尔信息量I(

)有关。I(

)的种种性质显示，“I(

)越大”可被解释为总体分布中包含未知参数

的信息越多。例6.4.3设总体为泊松分布P(

)分布，则于是例6.4.4设总体为指数分布，其密度函数为

可以验证定义6.3.2的条件满足，且于是定理6.4.4（Cramér–Rao不等式）

设定义6.4.2的条件满足，x1,x2

,

…,xn是来自该总体的样本，T=T(x1,x2

,

…,xn)是g(

)的任一个无偏估计，存在，且对

∈Θ

中一切

，微分可在积分号下进行，则有上式称为克拉美-罗（C-R）不等式;

[g’(θ)]2/(nI(

))称为g(

)的无偏估计的方差的C-R下界，简称g(

)的C-R下界。特别，对

的无偏估计,有;

如果等号成立，则称T=T(x1,

…,xn)是

g(

)的有效估计，有效估计一定是UMVUE。例6.4.5设总体分布列为p(x,

)=

x(1-

)1-x,x=0,1，它满足定义6.3.2的所有条件，可以算得该分布的费希尔信息量为，若x1,x2,

…,xn是该总体的样本，则

的C-R下界为(nI(

))-1=

(1-

)/n。因为是

的无偏估计，且其方差等于

(1-

)/n，达到C-R下界，所以是

的有效估计，它也是

的UMVUE。例6.4.6设总体为指数分布Exp(1/

)，它满足定义6.4.2的所有条件，例6.4.4中已经算出该分布的费希尔信息量为I(

)=

-2，若x1,x2,

…,xn是样本，则

的C-R下界为(nI(

))-1=

2/n。而是

的无偏估计，且其方差等于

2/n，达到了C-R下界，所以，是

的有效估计，它也是

的UMVUE。能达到C-R下界的无偏估计不多:例6.4.7设总体为N(0,

2)，满足定义6.4.2的条件，且费希尔信息量为，令,则

的C-R下界为,而

的UMVUE为其方差大于C-R下界。这表明所有

的无偏估计的方差都大于其C-R下界。在統計學中，一個概率樣本的置信區間（Confidenceinterval）是對這個樣本的某個總體參數的區間估計。置信區間展現的是這個參數的真實值有一定概率落在測量結果的周圍的程度。置信區間給出被測量參數的測量值的可信程度，即前面所要求的「一定概率」。這個概率被稱為置信水平。舉例來說，如果在一次大選中某人的支持率為55%，而置信水平0.95上的置信區間是（50%,60%），那麼他的真實支持率有百分之九十五的機率落在百分之五十和百分之六十之間，因此他的真實支持率不足一半的可能性小於百分之2.5（假設分佈是對稱的）-wikipedia上海师范大学ppt(p1-3)6.6区间估计IntervalEstimation6.6.1区间估计的概念

定义6.6.1

设

是总体的一个参数，其参数空间为Θ，x1,x2

,

…,xn是来自该总体的样本，对给定的一个

(0<

<1)，若有两个统计量和，若对任意的

∈Θ，有（6.6.1）则称随机区间[]为

的置信水平为1-

的置信区间，或简称[]是

的1-

置信区间.

和分别称为

的（双侧）置信下限和置信上限.

这里置信水平1-

的含义是指在大量使用该置信区间时，至少有100(1-

)%的区间含有

。

置信区间-Confidenceinterval例6.6.1

设x1,x2

,

…,x10是来自N(,

2)的样本，则

的置信水平为1-

的置信区间为其中，,s分别为样本均值和样本标准差。这个置信区间的由来将在6.6.3节中说明，这里用它来说明置信区间的含义。若取

=0.10，则t0..95(9)=1.8331，上式化为现假定

=15,

2=4，则我们可以用随机模拟方法由N(15,4)产生一个容量为10的样本，如下即是这样一个样本：14.8513.0113.5014.9316.9713.8017.953313.3716.2912.38由该样本可以算得从而得到

的一个区间估计为该区间包含

的真值--15。现重复这样的方法100次，可以得到100个样本，也就得到100个区间，我们将这100个区间画在图6.6.1上。由图6.6.1可以看出，这100个区间中有91个包含参数真值15，另外9个不包含参数真值。图6.6.1

的置信水平为0.90的置信区间取

=0.50，我们也可以给出100个这样的区间，见图6.6.2。可以看出，这100个区间中有50个包含参数真值15，另外50个不包含参数真值。图6.6.2

的置信水平为0.50的置信区间定义6.6.2沿用定义6.6.1的记号，如对给定的

(0<

<1)，对任意的

∈Θ，有

（6.6.2）

称为

的1-

同等置信区间。

同等置信区间是把给定的置信水平1-

用足了。常在总体为连续分布场合下可以实现。定义

若对给定的

(0<

<1)和任意的

∈Θ，有，则称为

的置信水平为1-

的（单侧）置信下限。假如等号对一切

∈Θ成立，则称为

的1-

同等置信下限。若对给定的

(0<

<1)和任意的

∈Θ，有,则称为

的置信水平为1-

的（单侧）置信上限。若等号对一切

∈Θ成立，则称为1-

同等置信上限。单侧置信限是置信区间的特殊情形。因此，寻求置信区间的方法可以用来寻找单侧置信限。构造未知参数

的置信区间的最常用的方法是枢轴量法，其步骤可以概括为如下三步：1.设法构造一个样本和

的函数G=G(x1,x2

,

…,xn,

)使得G的分布不依赖于未知参数。一般称具有这种性质的G为枢轴量。2.适当地选择两个常数c,d，使对给定的

(0<

<1)有P(c≤G≤d)=1-

3.假如能将c≤G

≤d进行不等式等价变形化为则[，]是

的1-

同等置信区间。6.6.2枢轴量法关于置信区间的构造有两点说明：

满足置信度要求的c与d通常不唯一。若有可能，应选平均长度达到最短的c与d，这在G的分布为对称分布场合通常容易实现。实际中，选平均长度尽可能短的c与d，这往往很难实现，因此，常这样选择c与d，使得两个尾部概率各为

/2，即P(G<c)=P(G>d)=

/2，这样的置信区间称为等尾置信区间。这是在G的分布为偏态分布场合常采用的方法。例6.5.2

设x1,x2

,

…,xn是来自均匀总体U(0,

)的一个样本，试对给定的

(0<

<1)给出

的1-

同等置信区间。解:（1）取x(n)

(p316)作为枢轴量，其密度函数为p(y;

)=nyn

，0<y<1；

（2）x(n)/

的分布函数为F(y)=yn,0<y<1，故P(c≤x(n)/

≤d)=dn-cn，因此我们可以适当地选择c和d满足dn-cn=1-

（3）利用不等式变形可容易地给出

的1-

同等置信区间为[x(n)/d，x(n)/c]，该区间的平均长度为。不难看出，在0≤c<d≤1及dn-cn=1-

的条件下，当d=1,c=

时，取得最小值，这说明是

的置信水平1-

为最短置信区间。一、

已知时

的置信区间在这种情况下，枢轴量可选为，c和d应满足P(c≤G≤d)=

(d)-

(c)=1-

，经过不等式变形可得该区间长度为。当d=-c=u1-

/2时，d-c达到最小，由此给出了的同等置信区间为[，]。（6.5.8）这是一个以为中心，半径为的对称区间，常将之表示为。【Za/2是标准正态分布上侧面积为a/2时的z值】6.5.3单个正态总体参数的置信区间例6.5.3

用天平秤某物体的重量9次，得平均值为（克），已知天平秤量结果为正态分布，其标准差为0.1克。试求该物体重量的0.95置信区间。解：此处1-

=0.95，

=0.05，查表知u0.975=1.96，于是该物体重量

的0.95置信区间为，从而该物体重量的0.95置信区间为

[15.3347，15.4653]。例6.5.4

设总体为正态分布N(

,1)，为得到

的置信水平为0.95的置信区间长度不超过1.2，样本容量应为多大？解：由题设条件知

的0.95置信区间为

其区间长度为，它仅依赖于样本容量n而与样本具体取值无关。现要求，立即有n(2/1.2)2u21-

/2.现1-

=0.95，故u1-

/2=1.96，从而n(5/3)21.962=

10.6711。即样本容量至少为11时才能使得

的置信水平为0.95的置信区间长度不超过1.2。二、

2未知时

的置信区间

这时可用t统计量，因为，因此t可以用来作为枢轴量。完全类似于上一小节，可得到

的1-

置信区间为

此处是

2的无偏估计。例6.5.5假设轮胎的寿命服从正态分布。为估计某种轮胎的平均寿命，现随机地抽12只轮胎试用，测得它们的寿命（单位：万公里）如下：4.684.854.324.854.615.025.204.604.584.724.384.70此处正态总体标准差未知，可使用t分布求均值的置信区间。经计算有=4.7092，s2=0.0615。取

=0.05，查表知t0.975(11)=2.2010，于是平均寿命的0.95置信区间为（单位：万公里）在实际问题中，由于轮胎的寿命越长越好，因此可以只求平均寿命的置信下限，也即构造单边的置信下限。由于由不等式变形可知

的1-

置信下限为

将t0.95(11)=1.7959代入计算可得平均寿命

的0.95置信下限为4.5806（万公里）。取枢轴量，由于

2分布是偏态分布，寻找平均长度最短区间很难实现，一般都用等尾置信区间：采用

2的两个分位数

2

/2(n-1)和

21-

/2(n-1)，在

2分布两侧各截面积为

/2的部分，使得由此给出

2的1-

置信区间为例6.5.6某厂生产的零件重量服从正态分布N(,

2)，现从该厂生产的零件中抽取9个，测得其重量为（单位：克）45.345.445.145.345.545.745.445.345.6试求总体标准差

的0.95置信区间。解：由数据可算得s2=0.0325，(n-1)s2=8

0325=0.26.查表知

20.025(8)=2.1797，

20.975(8)=17.5345，代入可得

2的0.95置信区间为

从而

的0.95置信区间为:[0.1218，0.3454]。在样本容量充分大时，可以用渐近分布来构造近似的置信区间。一个典型的例子是关于比例p的置信区间。6.5.4大样本置信区间

设x1,…,xn是来自b(1,p)的样本,有对给定

，，通过变形，可得到置信区间为

其中记

=u21-

/2，实用中通常略去

/n项，于是可将置信区间近似为例6.5.7对某事件A作120次观察，A发生36次。试给出事件A发生概率p的0.95置信区间。解：此处n=120，=36/120=0.3而u0.975=1.96，于是p的0.95（双侧）置信下限和上限分别为故所求的置信区间为[0.218，0.382]例6.5.8

某传媒公司欲调查电视台某综艺节目收视率p，为使得p的1-

置信区间长度不超过d0，问应调查多少用户？解：这是关于二点分布比例p的置信区间问题，由（6.5.11）知，1-

的置信区间长度为这是一个随机变量，但由于，所以对任意的观测值有。这也就是说p的1-

的置信区间长度不会超过。现要求p的的置信区间长度不超过d0，只需要即可，从而

（6.5.12）这是一类常见的寻求样本量的问题。比如，若取d0=0.04，

=0.05，则。这表明，要使综艺节目收