概率论和数理统计第三学期第8章参数估计

1、第,8,章,参数估计,点估计,点估计的评选标准,参数的区间估计,参,数,估,计,在实际问题中，对于一个总体,往往是,仅知其分布的类型，而其中所含的一个或,几个参数的值却是未知的，因此只有在确,定这些参数后，才能通过其分布来计算概,率，如何确定这些参数的数值呢？这就是,统计推断中的“参数估计”问题,本章只研究总体分布是连续型或离散型两种情,形。为简便起见，我们引入一个对这两种情形通,用的概念,概率函数,我们称随机变量,的概率函,数为,f(x,是指,在连续型情形,f(x,是,的密度函数,在离散型情形,f(x,是,x,的概率,定义,构造一个统计量,作定值的,估计称为参数的点估计,对参数,8.1,点估

2、计,2,1,2,1,n,n,x,x,x,点估计值,点估计量,点估计,一、矩估计法,1,8,2,1,m,k,k,k,g,E,m,k,2,1,阶矩,的前,求总体,m,F,m,2,1,1,列出估计式,步骤为,m,k,m,k,k,2,1,2,1,得,即解方程组,1,8,2,求解关于估计量的方程组,m,k,M,M,M,m,k,k,2,1,2,1,的矩估计为,得,阶原点矩,代替总体的,阶原点矩,用样本的,k,n,i,k,i,k,k,n,M,k,1,1,3,求出矩估计,解,为,按照上述矩估计步骤,记,2,1,D,E,例,1,的矩估计,和方差,的数学期望,求总体,D,E,2,1,2,2,2,2,1,1,E,D

3、,E,E,2,1,2,2,1,1,解上述方程组得,1,列出估计式,2,求解关于估计量的方程组,得,分别代替总体的矩,用样本矩,2,1,2,1,M,M,1,1,M,的矩估计为,和,2,1,2,1,2,1,2,2,2,1,2,2,1,1,S,n,n,M,M,n,i,i,n,i,i,3,求出矩估计,注意：只要总体的期望和方差存在，此结果对任何,总体均适用,2,S,D,E,即,解,例,2,2,N,服从,量误差,已知一批元件的长度测,中抽取容,为未知参数，现从总体,其中,2,的估计值,求出,的样本值,量为,2,12,0,82,0,45,0,30,0,85,0,20,1,6,和,来估计,和,分别用,由例,

4、2,2,1,S,16,0,96,0,6,1,12,0,82,0,45,0,30,0,85,0,20,1,6,1,2,2,2,2,2,2,2,2,2,2,2,2,2,2,498,0,99,2,6,1,28,0,98,0,61,0,14,0,69,0,04,1,6,1,16,0,12,0,16,0,82,0,16,0,45,0,16,0,30,0,16,0,85,0,16,0,20,1,6,1,S,为偶,若,居中的一个数,们按大小次序排列，取,n,定义,二、顺序统计量法,k,n,k,n,k,k,k,2,2,1,1,2,1,1,若,若,即,的一个样本，将它,为总体,n,2,1,为,称,记为,平均值,

5、数时，则取居中两数的,样本中位数,称为样本极差,最大值与最小值之差,R,n,n,R,min,max,2,1,2,1,排列而,都是由样本按大小次序,与,因为,R,即,为顺序统计量,确定的，所以它们都称,例,3,有一个样本为,1 453,1 650,1 367,1 502,和样本极差,求样本中位数,R,283,1367,1650,5,1477,1502,1453,2,1,R,故,解,将样本的观察值按大小顺序排列为,1 367,1 453,1 502,1 650,R,d,R,n,1,有下述关系,与,由于,估计,因此可通过,R,为样本大小,可查表,其中,n,d,n,定义,的一个样本观察值,是取自总体,

6、n,x,x,x,2,1,三、极大似然估计法,最先出现的是概率最大的,为未知参数,的概率函数为,总体,x,f,的,为,取到极大值。则称,即使似然函数,L,被取到的概率最大,时,如,n,x,x,x,2,1,就是最可能产生观察值,极大似然估计,注意,的值,的参数,n,x,x,x,2,1,极大似然估计,1,2,1,n,x,x,x,L,求似然函数,具体步骤,令,对给定的样本观察值,未知,其分布律为,2,1,2,1,n,i,i,x,x,x,n,i,x,p,x,P,n,i,i,n,x,p,x,x,x,L,1,2,1,1,总体为离散型分布,未知,密度函数为,x,f,观察值被取到的概率,样本,称为似然函数，反映

7、了,函数,n,x,x,x,L,2,1,n,i,i,n,x,f,x,x,x,L,1,2,1,2,总体为连续型分布,令,对给定的样本观察值,n,x,x,x,2,1,0,d,dL,L,满足方程,必然,点,的可微函数，则极大值,是,若似然函数,的最大值点,求,2,2,1,n,x,x,x,L,似然方程,的极大值点,经过检验即得,解出,L,的极大似然估计,就是,比前式要方便得多,求解,似然方程,数,的单调函数，所以由对,是,为乘积形式,因为,0,ln,ln,d,L,d,x,x,L,m,n,m,x,x,x,L,L,m,2,1,2,1,2,1,其似然函数为,个未知参数,一般地，设总体含有,方程组,其极大值点由

8、对数似然,的极大似然估计,为未知参数,m,2,1,就分别,其惟一解,解得。在通常的情况下,m,2,1,0,ln,0,ln,1,m,L,L,例,4,其中,0,1,1,P,p,P,p,中抽得容,分布，从,服从,离散型随机变量,1,0,2,1,2,1,n,n,x,x,x,n,的一组观察值,的样本,量为,的极大似然估计,求参数,p,n,i,x,i,2,1,1,0,n,i,x,n,x,x,x,i,x,x,n,i,i,n,i,i,i,i,p,p,p,p,p,x,L,p,x,p,p,x,P,1,1,1,1,1,1,1,1,0,1,的似然函数为,的分布律为,解,0,1,ln,1,ln,ln,ln,1,p,y,

9、n,p,y,dp,L,d,p,y,n,p,y,p,x,L,x,y,i,n,i,i,由对数似然方程,得,令,n,i,i,x,x,n,n,y,p,1,1,解得,的极大似然估计值为,以,因为这是惟一的解，所,p,x,p,从而得,p,的极大似然估计量为,p,函数为,服从正态分布，其密度,设总体,例,5,2,2,2,1,2,2,2,1,x,e,x,f,的极大似然估计,求未知参数,记,2,1,2,2,1,n,i,i,i,x,n,n,n,i,x,n,n,e,e,x,x,x,L,1,2,1,2,2,1,2,2,1,2,2,2,1,2,1,2,2,1,2,1,2,2,1,似然函数为,解,n,i,i,x,n,n,

10、L,1,2,1,2,2,2,1,ln,2,2,ln,2,ln,上式两边取对数得,的极大似然估计值,这就是,由此求得惟一解,对数似然方程组为,2,2,1,1,2,2,1,1,1,2,1,2,2,2,2,1,1,2,1,1,1,0,2,1,2,ln,0,1,ln,n,i,i,n,i,i,n,i,i,n,i,i,x,x,n,x,x,n,x,n,L,x,L,x,n,i,i,x,x,n,1,2,2,1,即,相应的极大似然估计量为,n,i,i,n,1,2,2,1,点估计的方法,一、矩估计法（也称数字特征法,直观意义比较明显，但要求总体,k,阶矩存在,二、顺序统计量法,使用起来方便，无需多大计算，但准确度不

11、高,三、极大似然估计法,具有一些理论上的优点，但要求似然函数可微,E,的估计量，若,是参数,设,定义,8.2,点估计的评选标准,具有无偏性的意义是,的真值,取值由于随机性而偏离,虽然,具有无偏性,的无偏估计或称,是,称,的真值,却等于,数学期望,但取其平均数,即没有系统偏差,的样本,是,存在,记为,与方差,n,D,2,1,2,例,1,记为,学期望,的分布是任意的，其数,设总体,E,的估计是否具有无偏性,2,2,与,分别作为,与样本二阶中心矩,问用样本均值,S,2,2,2,2,1,S,E,n,n,S,E,E,由前知,解,区别了,不加以,相差不大，这时二者就,与,很大时,但在,的估计,作为,般用,

12、的无偏估计。因此，一,不是,但,的无偏估计,是,的无偏估计,是,这说明,2,2,2,2,2,2,2,2,S,S,n,S,S,S,例,2,的无偏估计,为,其中,求证,的样本,是,有,设总体,n,i,i,i,n,i,i,i,n,C,n,C,C,D,E,1,1,2,2,1,2,1,1,证明,的无偏估计,是,即得,2,1,1,1,2,n,i,i,i,n,i,i,n,i,i,i,C,E,C,C,E,E,由于方差是度量随机变量,落在它的均,值,E,的邻域内的集中或分散程度的。所以,一个好的估计量,不仅应该是待估参数,的,无偏估计，而且应该有尽可能小的方差,样本,的无偏估计，若对任意,都是,与,设,2,1,

13、定义,高，也就是说估,附近取值的密集程度较,在,但,2,1,的真值,虽然还不是,有效的意义是,较,1,2,1,计的精确度高,2,1,D,D,n,有,容量,有效,较,则称,2,1,证明,有效,较,即,故,而,2,1,1,2,2,2,1,1,2,2,2,1,2,2,1,2,1,2,1,1,2,2,1,D,n,n,C,C,D,C,D,C,D,C,C,D,C,D,D,n,D,D,n,i,i,n,i,i,n,i,i,n,i,i,n,i,i,i,n,i,i,i,n,i,i,i,例,3,有效,较,证明,n,i,i,i,C,1,2,1,我们不仅希望一个估计是无偏的，且具,有较小的方差，有时还希望当子样容量无限

14、增,大时，即观察次数无限增多时，估计能在某种,意义下越来越接近被估计的参数的真实值，这,就是所谓一致性的要求,定义,依概率,时,的估计量，当,为参数,设,n,一致性,1,lim,P,n,0,lim,P,n,注意,计量,的一致估计量或相合估,是,称,1,lim,P,n,有,即对,收敛于,0,2,与方差,的数学期望,设总体,D,E,的一致估计量,是,样本均值,1,的样本,是,都存在,n,2,1,的一致估计量,是,样本方差,2,2,3,S,下面证明,阶原点矩,是总体的,阶原点矩,样本的,k,M,k,k,2,的一致估计量,k,E,独立同分布,n,证明,1,0,lim,P,n,即,由辛钦大数定理，有,0

15、,lim,E,P,n,2,0,lim,1,1,1,2,2,1,2,1,1,k,k,n,k,k,k,k,k,n,i,k,i,k,k,n,i,k,i,k,n,i,k,i,k,E,M,P,n,D,DM,EM,M,P,n,D,D,n,DM,E,E,n,EM,n,M,由契比雪夫不等式，有,0,lim,1,2,1,2,1,2,1,1,1,2,2,2,4,2,2,2,2,4,2,2,2,2,2,2,n,n,n,n,n,n,n,n,ES,S,P,n,DS,ES,S,P,n,DS,n,S,n,D,n,S,n,n,即,由契比雪夫不等式，有,3,0,lim,1,1,2,2,2,2,2,2,n,n,n,S,P,ES,

16、n,S,n,E,n,故,定义,所确,为由样本,与,n,n,2,1,2,1,2,8.3,参数的区间估计,分别,与,的置信区间,为,或置信概率,2,1,1,1,2,1,P,的未知参数，若,是总体,设,n,2,1,1,给定的常数,定的两个统计量，如对,1,0,有,的置信度,称为参数,则随机区间,2,1,限,称为置信下限与置信上,随机区间,1,2,包含,的概率为,1,表示,1,2,1,P,注意,单个正态总体的区间估计,1,1,1,0,1,1,0,2,2,2,2,u,u,u,n,P,n,P,N,n,n,N,即,有,对于给定的置信概率,则,由定理,1,2,已知，求,的置信区间,的置信区间,的置信概率为,是

17、,故区间,即,1,1,2,2,2,2,n,n,n,n,P,u,u,u,u,a,例,1,146,15,754,14,96,1,6,06,0,96,1,05,0,95,0,1,95,14,1,15,2,15,8,14,9,14,1,15,6,14,6,1,025,0,2,025,0,2,的置信区间为,求得,代入公式,将,查正态分布表得,已知,u,u,n,u,u,解,的置信区间,的置信概率为,求,单位,个，测得直径为,生产的滚球中随机抽取,从某天,径,已知某厂生产的滚珠直,95,0,1,15,2,15,8,14,9,14,1,15,6,14,6,06,0,mm,N,2,2,未知，求,的置信区间,的置

18、信区间,的置信概率为,是,可求得,有,对于给定的置信概率,有,代替,若用,1,1,1,1,1,1,0,1,1,2,2,2,2,2,n,S,n,t,n,S,n,t,n,t,n,S,P,n,t,S,n,n,S,t,S,在例,1,中若滚珠直径的方差,2,未知，用同样的数,据求,的置信概率为,0.95,的置信区间,186,15,714,14,5706,2,5,6,226,0,5706,2,5,1,05,0,95,0,1,226,0,051,0,5,255,0,95,14,1,15,95,14,1,15,95,14,6,14,5,1,95,14,025,0,025,0,2,2,2,2,的置信区间为,求得

19、,代入公式,将,分布表得,查,已知,t,n,S,t,n,t,t,S,解,例,2,分析例,1,和例,2,的结果会发现，由同一组样,本观察值，按同样的置信概率,对计算出的,置信区间因为,2,的是否已知会不一样,这因,为,当,2,为已知时,我们掌握的信息多一些,在其他条件相同的情况下，对的估计精度要,高一些，即表现为的置信区间长度要小些,反之，当,2,为未知时,对的估计精度要低,一些，即表现为的置信区间长度在大一些,3,已知，求,2,的置信区间,1,1,1,0,1,2,2,1,1,2,2,2,2,1,2,1,2,2,2,2,2,2,1,n,n,P,n,n,P,n,i,i,n,i,i,n,i,i,即,

20、有,对于给定的置信概率,n,i,i,n,1,2,2,2,2,构造变量,n,n,n,i,i,n,i,i,2,2,1,1,2,2,2,1,2,2,1,的置信区间为,的置信概率为,例,3,的置信区间,的置信概率为,求,个，得样本观察值,零件中随机取,从某天生产的,已知某厂生产的零件,95,0,2,13,8,12,4,13,6,12,4,5,12,2,2,N,解,4,1,5,12,2,13,5,12,8,12,5,12,4,13,5,12,6,12,2,2,2,2,4,1,2,i,i,n,i,n,i,i,i,n,i,i,n,n,1,1,2,2,2,1,2,2,计算,亦可根据下面的等式去,注,89,2,

21、13,0,484,0,4,143,11,4,05,0,95,0,1,2,2,975,0,2,2,1,2,025,0,2,2,2,间为,的置信区,求得,将有关数据代入公式,分布得,查,已知,n,n,4,未知，求,2,的置信区间,1,1,1,1,0,1,1,1,1,2,2,2,2,2,2,1,2,2,2,2,2,1,2,2,2,n,i,i,n,i,i,n,n,P,n,S,n,S,n,有,对于给定的置信概率,构造变量,的置信区间,的置信概率为,是,可求得区间,1,1,1,2,2,2,1,1,2,2,2,1,2,n,n,n,i,i,n,i,i,两个正态总体的区间估计,1,1,0,1,1,0,2,2,2

22、,2,1,2,1,2,1,2,2,2,1,2,1,2,1,u,n,n,P,N,n,n,u,使,对于给定的置信概率,选取随机变量,的置信区间,已知，求,2,1,2,2,2,1,1,的置信区间,的置信概率为,是,可求得区间,1,2,1,2,2,2,1,2,1,2,2,2,2,1,2,1,2,n,n,u,n,n,u,的置信区间,的置信概率为,是,可求得区间,选用随机变量,1,1,1,1,1,2,1,1,2,1,2,1,2,2,1,2,2,1,2,1,2,1,n,n,S,t,n,n,S,t,n,n,t,n,n,S,t,的置信区间,求,已知,未知,方差,2,1,2,2,2,1,2,2,2,1,2,两台机

23、床生产同一个型号的滚珠，从甲机床、乙,机床生产的滚珠中分别抽取,8,个,9,个，测得这些滚珠的,直径（单位,mm,如下,甲机床,15.0,14.8,15.2,15.4,14.9,15.1,15.2,14.8,乙机床,15.2,15.0,14.8,15.1,15.0,14.6,14.8,15.1,14.5,两台机床生产的滚珠直径服从正态分布，求这两,台机床生产的滚珠直径均值差,1,2,的置信区间，置信,概率为,0.90,设,1,已知甲、乙机床生产的滚珠直径的标准差分别为,1,0.18mm,及,2,0.24mm,2,未知,1,2,已知,1,2,例,4,解,318,0,018,0,168,0,9,2

24、4,0,8,18,0,645,1,645,1,1,0,9,0,1,1,0575,0,0457,0,9,14,05,15,9,8,2,2,2,2,2,1,2,1,2,05,0,2,2,2,2,1,2,1,故所求置信区间为,查正态分布表得,则,给定置信概率,n,n,u,u,u,S,S,n,n,344,0,044,0,194,0,9,1,8,1,228,0,753,1,1,1,228,0,2,9,8,0575,0,8,0457,0,7,2,1,1,753,1,15,2,1,0,9,0,1,2,2,1,2,2,1,2,2,2,2,1,1,05,0,2,1,2,故所求置信区间为,分布表得,查,则,给定置

25、信概率,n,n,S,t,n,n,S,n,S,n,S,t,n,n,t,t,a,n,n,F,F,n,n,F,P,n,n,F,n,n,F,n,i,i,n,i,i,1,1,0,1,1,1,2,1,2,2,1,2,1,2,1,1,2,2,2,2,2,1,2,1,2,1,1,2,1,使,对给定置信概率为,选用随机变量,的置信区间,已知，求,2,2,2,1,2,1,3,1,1,1,2,1,2,1,1,2,2,1,1,2,1,2,2,1,2,1,2,2,2,1,1,2,2,1,1,2,1,2,2,1,2,n,i,i,n,i,i,n,i,i,n,i,i,n,n,n,n,F,n,n,n,n,F,P,即,的置信区间,的置信概率为,是,可求得区间,1,1,1,2,2,2,1,1,2,2,1,1,2,1,2,2,1,2,1,1,2,2,1,1,2,1,2,2,1,2,2,1,2,1,n,i,i,n,i,i,n,i,i,n,i,i,n,n,n,n,F,n,n,n,n,F,1,1,1,1,1,1,2,1,2,2,2,2,2,