概率统计学-参数估计

第八章参数估计1参数估计问题假设检验问题点估计区间估计统计推断的基本问题2什么是参数估计？参数是刻画总体某方面的概率特性的数量.当这个数量是未知的时候，从总体抽出一个样本，用某种方法对这个未知参数进行估计就是参数估计.例如，X~N(,2),

点估计区间估计若,2未知，通过构造样本的函数,给出它们的估计值或取值范围就是参数估计的内容.3参数估计的类型点估计

——估计未知参数的值区间估计——估计未知参数的取值范围，使得这个范围包含未知参数真值的概率为给定的值.4一、点估计的思想方法设总体X的分布函数的形式已知，但它含有一个或多个未知参数：1,2,,k设

X1,X2,…,Xn为总体的一个样本构造k个统计量：随机变量第一节参数的点估计5当测得一组样本值(x1,x2,…,xn)时，代入上述统计量，即可得到k个数：数值称数为未知参数的估计值问题如何构造统计量？对应的统计量为未知参数的估计量61、矩方法；（矩估计）2、极大似然函数法（极大似然估计）.二.点估计的方法1.矩方法方法用样本的

k

阶矩作为总体的

k

阶矩的估计量,建立含待估计参数的方程，从而可解出待估计参数7一般地，不论总体服从什么分布，总体期望

与方差2

存在，则根据矩估计法它们的矩估计量分别为注:矩估计不唯一8事实上，按矩法原理，令9设待估计的参数为设总体的

r

阶矩存在，记为设X1,X2,…,Xn为一样本，样本的r阶矩为令——含未知参数1,2,,k的方程组10解方程组，得k

个统计量：——未知参数1,2,,k

的矩估计量——未知参数1,2,,k

的矩估计值代入一组样本值得k个数:11例1有一批零件，其长度X~N(,2)，现从中任取4件，测的长度(单位：mm)为12.6,13.4,12.8,13.2。试估计和2的值。解：由

得和2的估计值分别为13(mm)和0.133(mm)212例2

设总体X的概率密度为

X1,X2,,Xn为来自于总体X的样本,x1,x2,,xn为样本值,求参数的矩估计。解：先求总体矩

13为的矩估计量,

为的矩估计值.令

14例3

设总体X的概率密度为求的矩估计量

解法一虽然中仅含有一个参数，但因

不含,不能由此解出,需继续求总体的二阶原点矩15

解法二

即

用替换即得的另一矩估计量为得的矩估计量为用替换即16你就会想,只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率.看来这一枪是猎人射中的.先看一个简单的例子:

某位同学与一位猎人一起外出打猎,一只野兔从前方窜过.只听到一声枪响,野兔应声倒下.如果要你推测,是谁打中的呢？你会如何想呢？

这个例子所作的推断已经体现了极大似然法的基本思想.2、极大似然函数法17例:

设袋中装有许多白球和黑球。只知两种球的数目之比为3:1，试判断是白球多还是黑球多。

分析:

从袋中有放回的任取3只球.设每次取到黑球的概率为p(p=1/4或3/4)设取到黑球的数目为X,则X服从B(3,p)分别计算p=1/4,p=3/4时，P{X=x}的值，列于表结论:X0123p=1/4时27/6427/649/641/64p=3/4时1/649/6427/6427/64

定义1:(1)设随机变量X的概率密度函数为f(x,),其中为未知参数(f为已知函数).

（2）若X是离散型随机变量，似然函数定义为称为X关于样本观察值的似然函数。20的样本观察值,为样本

定义2

如果似然函数在时达到最大值,则称是参数的极大似然估计。

例1

设总体X服从参数为的指数分布，即有概率密度

又x1,x2,,xn为来自于总体的样本值，试求的极大似然估计.21解：第一步似然函数为于是

第二步第三步经验证，在处达到最大，所以是的极大似然估计。令22例2：设X服从(0－1)分布，P{X=1}=p,其中p未知，x1,x2,,xn为来自于总体的样本值求p的极大似然估计。解:X01P1-pp得(0－1)分布之分布律的另一种表达形式23令例3：设总体X服从参数为的泊松分布，即X有分布列(分布律)

是未知参数，(0,+)，试求的极大似然估计。解：样本的似然函数为

25

从可以解出

是的极大似然估计。因此26

第二节点估计量的优良性

271、矩方法；（矩估计）2、极大似然函数法（极大似然估计）.复习点估计的方法1.矩方法方法用样本的

k

阶矩作为总体的

k

阶矩的估计量,建立含有待估计参数的方程，从而可解出待估计参数28设待估计的参数为设总体的

r

阶矩存在，记为设X1,X2,…,Xn为一样本，样本的r阶矩为令——含未知参数1,2,,k的方程组29解方程组，得k

个统计量：——未知参数1,2,,k

的矩估计量——未知参数1,2,,k

的矩估计值代入一组样本值得k个数:30

定义1:(1)设r.v.X的概率密度函数为f(x,),其中为未知参数(f为已知函数).x1,x2,,xn为样本X1,X2,,Xn的样本观察值,称为变量X关于样本观察值x1,x2,,xn的似然函数。若X是离散型随机变量，似然函数定义为2.极大似然估计31

定义2

如果似然函数在时达到最大值,则称是参数的极大似然估计。

通常步骤

：

第一步似然函数为注:求导不是求极大似然估计唯一方法第二步令解出32其中为未知参数，若总体X的概率密度为：即可得到极大似然估计多参数情形的极大似然估计33为样本观察值,此时似然函数为：

求解方程组

数学上可以严格证明，在一定条件下，只要样本容量n足够大，极大似然估计和未知参数的真值可相差任意小。34例4：设为正态总体的一个样本值，求:和的极大似然估计.解：似然函数为35

解方程组得

这就是和的极大似然估计,即

36例5

设X为离散型随机变量,其分布律如下(0<<1/2)X0123P22(-2)21-2

随机抽样得3，1，3，0，3，1，2，3，分别用矩方法和极大似然法估计参数。解：例6

设总体X的概率密度为又为来自于总体X的样本值,求参数的极大似然估计。解：令

似然函数为:38

当时,L()是的单调增函数,处达到最大值，所以的极大似然估计:L()在39

对于同一个未知参数,不同的方法得到的估计量可能不同,于是提出问题应该选用哪一种估计量?用什么标准来评价一个估计量的好坏?常用标准(1)无偏性(3)一致性(2)最小方差无偏估计（有效性）第二节点估计量的优良性

40一、无偏估计

则称为的无偏估计。定义1

设(简记为)为未知参数的估计量，若(真值)41例1：样本均值和样本方差分别是总体均值和总体方差的无偏估计量.计算

是总体X的样本,

一般的

设总体X的

k

阶矩存在容易知道:不论

X服从什么分布,是的无偏估计量.43例2

设总体X的概率密度为

(4)求的方差X1,X2,,Xn为来自总体X的样本.(1)求总体均值EX,总体方差DX；(2)求的矩估计量;

(3)是否为的无偏估计；44解

(1)总体均值

总体方差

45(3)所以是的无偏估计;

(4)的方差(2)令

得的矩估计量为46

二、最小方差无偏估计则称是的最小方差无偏估计。

定义2设是的一个无偏估计，若对于的任一无偏估计，成立

定义设有效性都是总体参数的无偏估计量,且则称比更有效.47例3

设X1,X2,,Xn为来自于总体X的样本,总体均值EX=,总体方差DX=2,求的最小方差线性无偏估计。解已知X1,X2,,Xn独立且与X同分布,的线性估计是将X1,X2,,Xn的线性函数

问题是如何选取的值，使得无偏性和最小方差这两个要求都能得到满足。

作为的估计量。48无偏性要求最小方差要求

这是一个求条件极值问题，用拉格朗日乘数法，令达到最小，

易知由条件

得到于是

是的最小方差无偏估计。

得

若和都是的无偏估计量，且成立，则通常称估计量较有效,或较佳,或较优.例

设X1,X2,X3为总体的一个样本,试证下列估计量都是总体均值的无偏估计量,且问哪一个最佳？51三、一致估计

设为总体参数的估计量，显然与样本X1,X2,,Xn有关，我们希望会随着样本容量n的增大而越接近于，这一要求便是衡量估计量好坏的另一标准。则称为的一致性估计。

定义3

设为未知参数的估计量，若依概率收敛于，即对任意的>0,成立

53例4

试证样本均值为总体均值的一致性估计。证因为

所以，对于相互独立且服从同一分布的随机变量X1,X2,,Xn，由大数定理，即得此外,还可证明样本方差S2是总体方差2的一致性估计.54例5

证明正态总体N(,2)的样本方差S2是总体方差2的一致性估计量。证由切比雪夫不等式有

而

55例6

X~N(0,2),其中0为已知,X1,X2,,Xn为样本,记证明为2的无偏估计,一致估计.注意:

不是样本的二阶中心矩.本题即要证56例7

总体X的概率密度X1,X2,X3为样本证明为的无偏估计量,并比较它们的有效性.解:

记Y=max(X1,X2,X3),Z=min(X1,X2,X3)57为的无偏估计量同样的方法可得:因此比更为有效59设总体分布含有一未知参数，又x1,x2,,xn为来自于总体的样本，若对于给定(0<<1)，统计量1(x1,x2,,xn)和2(x1,x2,,xn)满足

则称区间[1,2]为相应于置信度是1-的置信区间，简称置信区间。

一、置信区间

第三节置信区间

1,2分别称为置信下限和置信上限.(1-)称为置信度。注意：区间[1,2]是随机区间。二、单侧置信限

若对于给定的(0<<1),统计量

1(x1,x2,,xn)满足

61则称区间[1,+)为相应于置信度是1-的单侧置信区间，1称为置信度是1-的单侧置信下限。类似，满足下式问题:

如何确定总体参数的区间估计[1,2]呢？对于一般总体是难于确定的.现仅能确定正态总体N(,2)中参数,2的区间估计这对许多实际应用已经够了.的2为单侧置信上限。

我们知道，正态随机变量是最为常见的，特别是很多产品的指标服从或近似服从正态分布。因此,我们主要研究正态总体参数的区间估计。先研究均值的区间估计，然后再研究方差的区间估计。这些在实际应用中是很重要的.

第四节正态分布均值和方差的区间估计63

设总体X~N(,2)，其中2已知，又X1,X2,,Xn为来自于总体的样本。一.均值EX的区间估计下面分两种情况进行讨论。1.方差DX已知，对EX进行区间估计由第七章第三节中的结论可知于是

64即

由标准正态分布可知，对于给定的，可以找到一个数z1-/2

，使65

当＝0.05时,查标准正态分布表得临界值此时的置信区间是

即为的置信区间。称z1-/2为在置信度1-下的临界值，或称为标准正态分布的双侧分位点。区间

当＝0.01时,查标准正态分布表得临界值此时的置信区间是67例1.已知某种滚珠的直径服从正态分布，且方差为0.06，现从某日生产的一批滚珠中随机地抽取6只，测得直径的数据（单位mm）为14.615.114.914.815.215.1

试求该批滚珠平均直径的95％置信区间。解当＝0.05时，1-=0.95,查表得

于是故所求置信区间为实际应用中往往是D(X)未知的情况。

设x1,x2,,xn为正态总体N(,2)的一个样本，由于2未知，我们用样本方差S2来代替总体方差2，

2.方差D(X)未知，对EX进行区间估计70U与V独立根据第七章定理四，统计量请比较U与T

对给定的，查t分布表可得临界值使得72即故得均值的置信区间为当=0.05，n=9时，查t分布表得临界值

因此，在方差2未知的情况下，的置信区间是73例2:设有某种产品,其长度服从正态分布，现从该种产品中随机抽取9件,得样本均值＝9.28(cm),样本标准差

s＝0.36(cm),试求该产品平均长度的90％置信区间.解：当=0.1,n=9时,查t分布表得于是故所求置信区间为〔9.06，9.50〕。74

设总体是来自于总体的样本。现利用样本给出2的置信区间。考虑统计量二.方差DX的区间估计由第七章定理三可知，统计量

75

于是，对给定的(0<<1)，查2分布表，可得临界值使得76

因此，当总体N(,2)中的参数为未知的情况下，方差2的置信区间为77注意这里选取的临界值不是唯一的。例如可以选取顺便指出，的置信区间是

等等。78例3.某自动车床生产的零件,其长度X服从正态分布,现抽取16个零件，测得长度(单位：mm)如下：

12.15,12.12,12.01,12.08,12.09,12.16,12.03,12.01,12.06,12.13,12.07,12.11,12.08,12.01,12.03,12.06试求DX的置信度为95%的置信区间。解：经计算查分布表得79故DX的置信区间为

80参数估计问题假设检验问题点估计区间估计统计推断的基本问题81设总体分布含有一未知参数，又x1,x2,,xn为来自于总体的样本，若对于给定(0<<1)，统计量1(x1,x2,,xn)和2(x1,x2,,xn)满足

则称区间[1,2]为相应于置信度是1-的置信区间，简称置信区间。一、置信区间

第三节置信区间

1,2分别称为置信下限和置信上限.(1-)称为置信度。注意：区间[1,2]是随机区间。二、单侧置信限

若对于给定的(0<<1),统计量1(x1,x2,,xn)满足

83则称区间[1,+)为相应于置信度是1-的单侧置信区间，1称为置信度是1-的单侧置信下限。类似，满足下式问题:

如何确定总体参数的区间估计[1,2]呢？对于一般总体是难于确定的.现仅能确定正态总体N(,2)中参数,2的区间估计这对许多实际应用已经够了.的2为单侧置信上限。

第四节正态分布均值和方差的区间估计85

设总体X~N(,2)，其中2已知，又X1,X2,,Xn为来自于总体的样本。一.均值EX的区间估计下面分两种情况进行讨论。1.方差DX已知，对EX进行区间估计由第七章第三节中的结论可知于是

86即

由标准正态分布可知，对于给定的，可以找到一个数z1-/2

，使87

当＝0.05时,查标准正态分布表得临界值此时的置信区间是

即为的置信区间。称z1-/2为在置信度1-下的临界值，或称为标准正态分布的双侧分位点。区间

当＝0.01时,查标准正态分布表得临界值此时的置信区间是89例1.已知某种滚珠的直径服从正态分布，且方差为0.06，现从某日生产的一批滚珠中随机地抽取6只，测得直径的数据（单位mm）为14.615.114.914.8