第16次课——矩估计

1、不像其他科学，统计从来不打算使自己完美不像其他科学，统计从来不打算使自己完美无缺，统计意味着你永远不需要确定无疑。无缺，统计意味着你永远不需要确定无疑。 Gudmund R.Iversen【统计名言】【统计名言】1第七章第七章 参数估计参数估计2 在数理统计中经常要根据在数理统计中经常要根据样本样本来对来对总体的种种统计特征总体的种种统计特征做做出判断。实际工作中碰到的问题大致分为两类：出判断。实际工作中碰到的问题大致分为两类：一是一是总体的分总体的分布往往可以根据经验来判断其类型布往往可以根据经验来判断其类型 ，但确切的形式并不，但确切的形式并不知道，亦即知道，亦即总体的参数总体的参数 未知

2、未知；二是二是在某些情况下，所关心的在某些情况下，所关心的并不是总体的分布，而只是并不是总体的分布，而只是总体的某些数字特征总体的某些数字特征，特别是数学，特别是数学期望和方差。因此，期望和方差。因此，要根据样本来估计总体的参数，这类问题要根据样本来估计总体的参数，这类问题称为参数估计称为参数估计。 参数估计的方法：参数估计的方法：点估计点估计和和区间估计区间估计。( , )F x估计量估计量：用于估计总体参数的随机变量：用于估计总体参数的随机变量n如如样本均值样本均值，样本方差样本方差等等【例如】【例如】 样本均值就是总体均值样本均值就是总体均值 的一个估计量的一个估计量参数用参数用 表示，

3、估计量表示，估计量用用 表示表示估计值估计值：估计参数时计算出来的统计量的具体值：估计参数时计算出来的统计量的具体值n如果样本均值如果样本均值 x =80，则，则80就是就是 的估计值的估计值【参数估计的相关概念】【参数估计的相关概念】37.1 点估计点估计一、点估计的概念一、点估计的概念4 点估计是指把总体的未知参数估计为点估计是指把总体的未知参数估计为某个确定的值某个确定的值或在或在某某个确定的点个确定的点上上.点估计的方法有很多，本节主要介绍点估计的方法有很多，本节主要介绍: :矩矩法法和和极大似然估计法极大似然估计法. .二、矩法二、矩法 其基本思想是其基本思想是用样本矩用样本矩估计估

4、计总体矩总体矩 . 理论依据理论依据: 它是基于一种简单的它是基于一种简单的“替换替换”思想建立起来的一种估计方法思想建立起来的一种估计方法 .是英国统计学家是英国统计学家K.皮尔逊最早提出的皮尔逊最早提出的 .大数定律大数定律记总体记总体k阶原点矩为阶原点矩为样本样本k阶原点矩为阶原点矩为11nkkiiAXn 记总体记总体k阶中心矩为阶中心矩为样本样本k阶中心矩为阶中心矩为11()nkkiiBXXn ()kkE X() kkmEXE X5其中其中 为待估参数为待估参数. . 1、矩法的一般做法、矩法的一般做法 设已知总体设已知总体 , ,),;(21lXFXl,21 （1）设总体）设总体X的

5、的k阶矩阶矩 均存在均存在, ,则则)1 (),(lkXEkk12( ,),(1)kklkl L （2）设来自总体）设来自总体X样本的样本的k阶矩阶矩 nikikXnA11其中其中 .1lk （3）令）令总体的总体的k阶矩分别与样本的阶矩分别与样本的k阶矩相等阶矩相等,即即 61121212212( ,),( ,),( ,).lllllAAA LLL L L LL令这是含待估参数这是含待估参数 的的联立方程组联立方程组，其解，其解l,21可作为待估参数可作为待估参数 的的矩估计量矩估计量,其观察值为待其观察值为待估参数的估参数的矩估计值矩估计值.l,21),(,),(),(11211nlnnX

6、XXXXX7【例【例1】已知总体已知总体X的概率密度为的概率密度为:其他， , 0),1( 10 ,) 1()(xxxf其中其中 未知，样本为未知，样本为 ，求参数，求参数 的矩法估计的矩法估计. .12, ,nX XXL（）【解】【解】只有一个参数只有一个参数 ，因此只需一个方程即可，因此只需一个方程即可.11A而而1( )( )E Xxf x dx1210(1)xx dx111niiAXXn因此有因此有12X解得解得1 2.1XX)用样本用样本1阶矩阶矩“代替代替”总体总体1阶矩，阶矩，即即8方程组为方程组为1122AA22122 ( ,),(,.,)nXNXXXX 设总体未知，设为来自总

7、体 的样本，求 与的矩估计量。【解】【解】估计两个参数需要两个方程，即估计两个参数需要两个方程，即 分别用样本分别用样本1、2阶矩阶矩“代替代替”总体总体1、2阶矩阶矩.1(),E X22()E X【例【例2】而而2() ()D XE X22111,niiAXXn另外又有另外又有2211niiAXn因此有方程组因此有方程组92221 1niiXXn2221= .11=niiXnXSnn)解得参数的矩估计量分别为：解得参数的矩估计量分别为：10 【练习】【练习】已知总体已知总体X的概率密度为的概率密度为: : 解解)(1XE 因为总体一阶矩因为总体一阶矩11A, 0, 10,)(1其它xxxf

8、其中未知参数其中未知参数0,0,求求的矩估计量的矩估计量. .dxxxf)(101|1x10dxx1 由由11故所求故所求矩估计量矩估计量为：为：即即X1) 1(X解得解得: :XX)1 (XX121XX12【例【例3】在某班期末数学考试成绩中随机抽取在某班期末数学考试成绩中随机抽取9 9人的成绩人的成绩. .结果如结果如下表所示，试求该班数学成绩的平均分数，标准差的下表所示，试求该班数学成绩的平均分数，标准差的矩估计值矩估计值. .序号序号1 1 2 23 35 59 98 87 76 64 4分数分数9494 89896363656571717575787885855555而样本而样本1、

9、2阶矩分别为阶矩分别为2(),()E XD X【解】【解】设设X为该班数学成绩，为该班数学成绩，9111iiAXxn1()E X而总体而总体X的的1、2阶矩为阶矩为222()() ()E XD XE X221(948955)9L7592211iiAxn2221(948955 )9L5772.33132275 5772.332=75 .= 5772.337512.14)解得参数的矩估计量分别为：解得参数的矩估计量分别为：14【练习】求服从二项分布【练习】求服从二项分布b(m, p)的总体的总体X未知参数未知参数p的矩估计量的矩估计量. 解解单参数，离散型单参数，离散型. .)(1XE 由由11A

10、Xmp mp即即故所求故所求矩估计量矩估计量为：为：mXp 因为因为 所以总体所以总体X的一阶矩的一阶矩( (期望期望) )为为),(pmbX15 矩法的优点矩法的优点是简单易行是简单易行, 并不需要事先知道总体并不需要事先知道总体是什么分布。是什么分布。缺点缺点是，当总体类型已知时，没有充分利用分布是，当总体类型已知时，没有充分利用分布提供的信息。一般场合下提供的信息。一般场合下, 矩估计量不具有唯一矩估计量不具有唯一性。性。其主要原因在于建立矩法方程时，选取那些总体其主要原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替带有一定的随意性。矩用相应样本矩代替带有一定的随意性。16三、三、

11、 极大似然估计法极大似然估计法 极大似然估计法是在极大似然估计法是在总体的分布类型已知总体的分布类型已知的条件下的条件下所使用的一种参数估计方法所使用的一种参数估计方法. 它首先是由德国数学家它首先是由德国数学家高斯高斯在在1821年提出年提出 . GaussFisher然而这个方法常归功于英国统计学家然而这个方法常归功于英国统计学家费歇费歇 .费歇费歇在在1922年重新发现了这一方法，并首年重新发现了这一方法，并首先研究了这种方法的一些性质先研究了这种方法的一些性质 .17 【例子】【例子】是谁击中的野兔是谁击中的野兔,你会怎样想你会怎样想?若让你推测一下，若让你推测一下，一只野兔从前方窜过

12、，一只野兔从前方窜过，只听一声枪响，野兔应声倒下只听一声枪响，野兔应声倒下 .某同学与一位猎人一起外出打猎。某同学与一位猎人一起外出打猎。忽然，忽然，极大似然估计法是基于极大似然估计法是基于极大似然原理极大似然原理提出的。提出的。为了说明为了说明极大似然原理极大似然原理, 我们先看个例子。我们先看个例子。18 你会想：只一枪便击中你会想：只一枪便击中,一般情况下猎人击中的概率比同一般情况下猎人击中的概率比同学击中的概率大。学击中的概率大。 故，这一枪极大可能是猎人打的。故，这一枪极大可能是猎人打的。 你的这一想法中就已经包含了你的这一想法中就已经包含了极大似然估计法极大似然估计法的基本思的基本

13、思想想 .为了进一步体会为了进一步体会极大似然估计法极大似然估计法的思想的思想 , 我们再看一个例我们再看一个例子子.19【例如】【例如】有一事件有一事件A，我们知道它发生的概率，我们知道它发生的概率 只可能是只可能是:p=0.1，0. 3 或或 0.6若在一次观测中，事件若在一次观测中，事件A竟然发生了，竟然发生了，你自然会认为事件你自然会认为事件A发生的概率是发生的概率是0.6，而，而非其他数值。非其他数值。【极大似然原理】【极大似然原理】概率大的事件在一次观测中更容易发生。概率大的事件在一次观测中更容易发生。p试让你推想一下试让你推想一下 应取何值应取何值?p由上述两例可知，极大似然估计

14、法是要选取这样的由上述两例可知，极大似然估计法是要选取这样的 ，当它，当它作为估计值时，使观测结果出现的可能性最大，即概率最大作为估计值时，使观测结果出现的可能性最大，即概率最大.)20设设X为离散型总体，其分布律为：为离散型总体，其分布律为：为为待待估估参参数数 ),;(xpxXP 对来自总体对来自总体X的样本（的样本（X1,X2,Xn ），若），若在极大似然估计法中，关键的问题是求似然函数。下面在极大似然估计法中，关键的问题是求似然函数。下面分别就离散型总体与连续型总体介绍似然函数的求法。分别就离散型总体与连续型总体介绍似然函数的求法。1、似然函数、似然函数（1）离散型离散型总体总体似然函

15、数似然函数的定义的定义为其观测值，样本的联合分布律为为其观测值，样本的联合分布律为:),.,(21nxxx niixpL1);()( ),(),(),(21 nxpxpxp )( L称称 为样本的为样本的似然函数似然函数。21),(),(),(21 nxfxfxf （2）连续型）连续型总体总体似然函数似然函数的定义的定义设设X为连续型总体，其概率密度为：为连续型总体，其概率密度为： 对来自总体的样本对来自总体的样本 ,其观测值为其观测值为 , 样本的联合概率密度为样本的联合概率密度为:),(21nxxx),(21nXXX);( xf 其中其中 未知未知 niixfL1),()( )( L称称

16、为样本的为样本的似然函数似然函数。2223极大似然法求估计量的步骤：极大似然法求估计量的步骤：:)()1 L构造似然函数构造似然函数1( )( ; ) (,niiLP x离散型）1( )( ; ) (;niiLf x连续型）);(ln)2 L取取对对数数：; 0ln)3 dLd令令4).解似然方程得的最大似然估计量24【解】【解】 的似然函数为：的似然函数为：111( )( ; )nniiiiLf xx 112()nnx xxL(01)ix取对数取对数1ln ( )ln(1)lnniiLnx【例【例4】 设设(X1,X2,Xn )是来自总体是来自总体X的一个样本的一个样本,0, 010,);(

17、1未未知知其其中中其其它它 xxxfX求求的极大似然估计量的极大似然估计量251ln( )lnniidLnxd求导并令其为求导并令其为0:= 0从中解得从中解得1lnniinx 即为即为的极大似然估计值。的极大似然估计值。 26 【例【例5 5】在泊松总体中抽取样本，其样本值为】在泊松总体中抽取样本，其样本值为 ,21nxxx 试对泊松分布的未知参数试对泊松分布的未知参数 作极大似然估计作极大似然估计. . 【例【例6】设总体】设总体X服从服从 上的均匀分布，求未知参数上的均匀分布，求未知参数 的极大似然估计量的极大似然估计量., 027【练习】【练习】设设X1,X2,Xn是取自总体是取自总体