概率论与数理统计第七讲

1、内容内容1 未知参数的点估计未知参数的点估计2 2 未知参数的区间估计未知参数的区间估计学习目标学习目标1.1.参数估计，矩法、极大似然估计参数估计，矩法、极大似然估计2.2.估计量优劣的评价标准估计量优劣的评价标准3.3.一个一个正态总体均值和方差的置信区间正态总体均值和方差的置信区间4.4.两个两个正态总体均值和方差比的置信区间正态总体均值和方差比的置信区间根据样本的观测值，对总体分布律或分布密度根据样本的观测值，对总体分布律或分布密度的未知参数进行估计的理论和方法称为总体分的未知参数进行估计的理论和方法称为总体分布中未知参数的估计，简称为布中未知参数的估计，简称为参数估计。参数估计。7.

2、1 7.1 点估计点估计( (Point Estimation) )设总体设总体X的分布函数为的分布函数为F(x;)，. 是未是未知参数。要求知参数。要求的点估计就是要设法根据样本的点估计就是要设法根据样本(X1,Xn)构造一个统计量构造一个统计量T=T (X1,Xn),通过抽通过抽样获得样本观测值样获得样本观测值(x1,xn)后，用后，用T (x1,xn)的的值来估计参数值来估计参数的值，称的值，称T (X1,Xn) 为为 的的估估计量计量。记作。记作 (X1,Xn) ，称，称T (x1,xn)为为的的估估计值计值。记作。记作 (x1,xn)。简记为简记为 。 1 矩估计法矩估计法用样本矩来

3、代替总体矩用样本矩来代替总体矩，这种估计方法称为，这种估计方法称为矩估计法。矩估计法。用矩估计法构造未知参数估计量的步骤：用矩估计法构造未知参数估计量的步骤：),(,),(),() 12kXEXEXE计计算算出出kjgXEkjj, 1),()(1记记：近似替换，列出方程组近似替换，列出方程组)2nikikkniikniikXngXngXng1112121111),(1),(1),(., 1),(,)31kjXXhnjj若若解出方程组解出方程组的的矩矩法法估估计计量量。为为并并称称估估计计量量的的作作为为是是方方程程组组的的解解，则则以以jnjjjnjXXXXh),(,),(11特别地特别地，当

4、总体的数学期望存在时，总体数学，当总体的数学期望存在时，总体数学期望的矩估计量就是样本的期望的矩估计量就是样本的均值均值。 计算较简便计算较简便精髓精髓替换替换的的一一个个样样本本，是是总总体体设设例例XXXXn,21;),()1(未未知知若若ppmBX未未知知。若若),()(PX2未未知知。若若223,),()(NX试求各分布中未知参数的矩估计。试求各分布中未知参数的矩估计。例例 设总体设总体X的概率密度函数为的概率密度函数为 其其它它,0,1)()( xexfx其中其中0,是未知参数，是未知参数， (X1,Xn)是总是总体体X的样本，求的样本，求,的矩估计量。的矩估计量。2.最大似然估计法

5、最大似然估计法(Maximum likelihood estimate) 它是在总体类型已知条件下使用的一种参数估它是在总体类型已知条件下使用的一种参数估计方法计方法 . . 它首先是由德国数学家高斯在它首先是由德国数学家高斯在18211821年提出的年提出的 . . 然而然而,这个方法常这个方法常归功于英国统计学家费歇归功于英国统计学家费歇尔尔.GaussFisher 费歇尔在费歇尔在1922年重新发现了年重新发现了这一方法，并首先研究了这种方这一方法，并首先研究了这种方法的一些性质法的一些性质 .例例 有外形相同的两箱子，甲有有外形相同的两箱子，甲有99个白球个白球1个个黑球，乙有黑球，乙

6、有1个白球个白球99个黑球，现随机取一个黑球，现随机取一 箱从中抽一球，发现是白球。问是从哪个箱箱从中抽一球，发现是白球。问是从哪个箱中取出。中取出。01. 0)(,99. 0)(乙乙白白甲甲白白PP从甲箱取出。从甲箱取出。例例 医生给病人看病的过程可以看作是在求一个医生给病人看病的过程可以看作是在求一个点估计。医生先要询问病人的发病的症状，测点估计。医生先要询问病人的发病的症状，测量病人的量病人的体温体温、心跳次数心跳次数、血压高低血压高低，必要时，必要时还要还要拍片拍片，验血验血等。这相当于数理统计中的抽等。这相当于数理统计中的抽样，样本观测值相同于询问与检查的结果。病样，样本观测值相同于

7、询问与检查的结果。病人究竟得哪一种病是未知的，但总是某种病之人究竟得哪一种病是未知的，但总是某种病之一一(记记A1,A2,)。如果医生在询问与检查结果的如果医生在询问与检查结果的基础上根据医学知识和经验，认为得基础上根据医学知识和经验，认为得A1病可能病可能性最大，则医生便判断该病人得了性最大，则医生便判断该病人得了A1病。病。定义定义的的一一个个样样本本，是是设设XXXXn),(21为为样样本本的的观观测测值值，称称),(21nxxx),;()(1nxxLL 为连续型为连续型为离散型为离散型XxfXxpniinii, );(, );(11 为似然函数。为似然函数。定义定义是是似似然然函函数数

8、，设设),;()(1nxxLL ，使得，使得（若存在若存在),1nxx )(max)( LL 的最大似然估计量。的最大似然估计量。为为（值，称值，称的最大似然估计的最大似然估计是未知参数是未知参数（则称则称 ),),11nnXXxx一般步骤：一般步骤：(1) 构成似然函数构成似然函数L()；(2) 写出写出lnL()；(3)以以为自变量求为自变量求lnL()的导数或偏导数；的导数或偏导数；(4)令令lnL()的导数或偏导数等于零解方程。的导数或偏导数等于零解方程。例例 设总体设总体X的分布律为的分布律为,)1(); 1(2 Xpp),1(2)2(); 2( Xpp,)1()3(); 3(2 X

9、pp其中其中是未知参数（是未知参数（0-1,求求的矩估计和最的矩估计和最大似然估计。大似然估计。例例 设设(X1,Xn)是取自正态总体是取自正态总体X的一个样本，的一个样本，求未知参数求未知参数，2的最大似然估计。的最大似然估计。的最大似然估计量。的最大似然估计量。、是样本，试求是样本，试求）未知，（未知，（、设总体设总体例例baXXbabaUXn,1性质：性质：.),(),(Uuuuu 具有单值反函数具有单值反函数设设的最大似然估计值，的最大似然估计值，是总体分布中未知参数是总体分布中未知参数若若 的最大似然估计。的最大似然估计。是是则则uuu)( 7.2 7.2 基于截尾样本的最大基于截尾

10、样本的最大似然估计似然估计7.3 7.3 估计量的评判标准估计量的评判标准的的真真值值越越近近越越好好。与与被被估估计计参参数数 )1(越越好好。的的真真值值的的波波动动幅幅度度越越小小围围绕绕 )2(的的真真值值。收收敛敛于于在在某某种种意意义义上上，当当样样本本容容量量越越来来越越大大时时 )3(1 无偏性无偏性的的估估计计量量若若未未知知参参数数则则当当为为),(nXXX21)(E。量量的的无无偏偏估估计计为为称称)(timateunbiasedes 定义定义 )(lim En若若的的渐渐近近无无偏偏估估计计量量。为为称称 例例 设总体设总体X服从服从0,上的均匀分布上的均匀分布.试证试

11、证的的矩估计量矩估计量 是是的无偏估计量的无偏估计量, 最大似最大似然估计量然估计量 是是的渐近无偏估计量的渐近无偏估计量.X21 )(2nX 例例 设总体设总体XP(),(X1, X2,X3)是是X的样本，试的样本，试证下列三个估计量都是证下列三个估计量都是的无偏估计量的无偏估计量.3211313131XXX 3212216131XXX .21213213XXX 7.2.2 有效性及有效性及C-R不等式不等式定义定义),(),(nnXXXXXX212211和和设设的无偏估计量，如果的无偏估计量，如果都是都是)()(21DD有有效效。比比则则称称21。在这些估计量中最有效在这些估计量中最有效本

12、均值本均值的无偏估计量，并且样的无偏估计量，并且样都是总体均值都是总体均值求证求证如果如果常数常数非负非负组组的一个样本，对任意一的一个样本，对任意一是是设设例例XXEXCCCCCXXXXniiiniinn)(, 1,)(),(112121 ),)()(niXEXEi21解解, 11niic且且niiiniiiXEcXcE11)()(),()(XEcXEnii1.)(的的无无偏偏估估计计量量都都是是总总体体均均值值XEXcniii1),)()(niXDXDi21又又,)()()(niiniiiniiicXDXDcXcD12121得得及及记记, 1112niiniiccf,)(212121211

13、nncccccf个个方方程程由由1n0122121)(niicccccf,ncccn1121解解出出,nccnnii111中中，得得到到代代入入量量。是是方方差差最最小小的的无无偏偏估估计计因因此此X定理定理 (Cramer-Rao不等式不等式)的无偏估计量，如果的无偏估计量，如果是是的样本，的样本，是是，未知参数未知参数的连续型的连续型为具有概率密度函数为具有概率密度函数设总体设总体 ),(),(,.);(2121nnXXXXXXXVRxfX 无关；无关；与与中的开区间，且集合中的开区间，且集合是实数域是实数域 0);(:).1 xfxR dxxfdxxfxxf);();(,);(ln).2

14、 都都存存在在，且且对对一一切切即可以即可以在积分在积分号下求号下求导数；导数；均均成成立立。对对一一切切则则有有 ,)(1)(,);(ln)(0).32nIDXfEI且等号成立的充分必要条件是以概率且等号成立的充分必要条件是以概率1有关系式有关系式).)( );(ln1 Cxfnii其中其中C()与样本无关。与样本无关。).;();(. xpxfVRX换换成成，将将是是离离散散型型若若 对任意对任意使得使得的无偏估计量的无偏估计量如果如果定义定义,)(1)(),(1nIDXXn.的有效估计量的有效估计量是是则称则称 的的有有效效估估计计量量。是是的的样样本本。证证明明是是是是未未知知参参数数

15、，设设总总体体例例pXpXXXppBXn ),(), 1(13 相合性（一致性）相合性（一致性）有有对对的的估估计计量量，若若是是设设定定义义, 0),(1 nXX , 1),(lim1 nnXXP，依依概概率率收收敛敛于于时时，即即当当 ),(1nXXn 估估计计量量。一一致致的的相相合合是是则则称称)(),(1 nXX 7.4 7.4 区间估计区间估计( (Interval Estimation) )定义定义 设总体设总体X的分布函数为的分布函数为F( (x;),;),是未是未知参数，知参数，X1,Xn是来自总体是来自总体X的样本，的样本，是是给定的值给定的值(0 1),若两个统计量若两个

16、统计量满足满足和和),(),(11nnXXXX .1 P).ervalintconfidence(1),(置置信信区区间间的的为为置置信信度度的的是是则则称称随随机机区区间间).itlimlowerconfidence(的的置置信信下下限限为为置置信信度度为为称称 1).itlimupperconfidence(的的置置信信上上限限为为置置信信度度为为称称 1求置信区间的步骤：求置信区间的步骤：),;,()1(1 nXXZZ 选选取取一一个个函函数数使使定定出出常常数数对对给给定定的的.,1)2(ba 1);,(1bXXZaPn的的置置信信区区间间利利用用不不等等式式变变形形，求求得得 )3(

17、 1)(P若若的的置置信信区区间间。是是置置信信度度为为则则 1),(7.5 7.5 正态总体均值与方差的区间估计正态总体均值与方差的区间估计（一）（一） 单个正态总体的单个正态总体的N(，2 2) )情况情况1.1.2 2 已知时已知时的区间估计的区间估计.1,),(),(1221 niinXnXNXX未未知知，已已知知，的的样样本本是是来来自自正正态态总总体体设设 选取函数选取函数nXU ).1 , 0( N利用分位点，有利用分位点，有.12 ZUP22 ZnXZU .22 ZnXZnX 的的置置信信区区间间为为的的置置信信度度为为故故 1),(22 ZnXZnX 2.2.2 2 未知时未

18、知时的区间估计的区间估计选取函数选取函数nSXT ).1( nt利用利用t分布的分位点，有分布的分位点，有.1)1(2 ntTP)1()1(22 ntnSXntT ).1()1(22 ntnSXntnSX 的的置置信信区区间间为为的的置置信信度度为为故故 1)1(),1(22 ntnSXntnSX 例例 设某种清漆的设某种清漆的9个样品，其干燥时间个样品，其干燥时间(单位：单位：小时小时)分别为分别为6.0,5.7,5.8,6.5,7.0,6.3,5.6,6.1,5.0,设干燥时间服从正态分布设干燥时间服从正态分布N(,(,2 2) )，若若(1) (1) =0.6=0.6（h),(2)h),

19、(2)未知。求未知。求的置信度为的置信度为0.950.95的置信区间。的置信区间。解解已知时，置信区间为已知时，置信区间为226 . 0)1( ),(22 ZnXZnX 已知已知.96. 1, 9, 6 . 0025. 02 ZZn 代入有代入有计算计算, 6 x).392. 6 ,605. 5()96. 196 . 06 ,96. 196 . 06( 未知时，置信区间为未知时，置信区间为2)2( )1(),1(22 ntnSXntnSX 代代入入有有将将9,306. 2)8()1(,577. 0, 6025. 02 ntntsx ).442. 6 ,558. 5()306. 29577. 0

20、6()1(2 ntnSX 3. 3. 已知时已知时2 2的区间估计的区间估计),(2 NXi注注意意到到).1 , 0( NXi 故故 niiniiXX122122)()(1 ).()(212nXnii 选取函数选取函数 niiX1222)(1 1 )()(1)(12222122niinXnP的的置置信信区区间间为为的的置置信信度度为为故故 12)()(,)()(211221222nxnxniinii的的置置信信区区间间为为的的置置信信度度为为 1)()(,)()(211221222nxnxniinii4. 4. 未知时未知时2 2的区间估计的区间估计选取函数选取函数222)1( Sn )1(

21、2 n 的的置置信信区区间间为为的的置置信信度度为为可可得得 12)1()1(,)1()1(2122222 nSnnSn 的的置置信信区区间间为为的的置置信信度度为为 1)1()1(,)1()1(2122222 nSnnSn 例例 随机地取某种炮弹随机地取某种炮弹9发做试验，得炮口速度发做试验，得炮口速度的样本标准差的样本标准差s=11(m/s)。设炮口速度服从正态设炮口速度服从正态分布，求这种炮弹的炮口速度的标准差分布，求这种炮弹的炮口速度的标准差的置的置信水平为信水平为0.95的置信区间。的置信区间。（二）（二） 两个正态总体的情况两个正态总体的情况的的样样本本，是是总总体体设设),(,2

22、1111 NXXXn,),(,22212的的样样本本是是总总体体 NYYYn且两组样本相互独立，记且两组样本相互独立，记 111212111)(11,1niiniiXXnSXnX 221222212)(11,1niiniiYYnSYnY的的区区间间估估计计已已知知时时，和和当当212221. 1 ).1 , 0()()(22212121NnnYX .1)()(222212121 ZnnYXP的的置置信信区区间间为为的的置置信信度度为为可可得得 121)(2221212nnZYX 的的区区间间估估计计未未知知时时，2122221. 2 212111)()(nnSYXw )2(21 nnt1)1(

23、)1(212222112 nnSnSnSw的的置置信信区区间间为为的的置置信信度度为为可可得得 121).2(11(21212 nntnnSYXw 例例 为比较为比较，两种型号步枪子弹的枪口速两种型号步枪子弹的枪口速度，随机地取度，随机地取型子弹型子弹10发，得到枪口速度的发，得到枪口速度的平均值平均值 ,标准差标准差 ，随机地取随机地取 型子弹型子弹20发，得到枪口速度的平发，得到枪口速度的平均值均值 ，标准差，标准差 。假设两总体都服从正态分布，并认为方差相假设两总体都服从正态分布，并认为方差相等，求两个总体均值差等，求两个总体均值差 的一个置信水的一个置信水平为平为0.95的置信区间。的置信区间。)/(smx5001 )/(.sms1011 )/(smx4962 )/(.sms2012 21 的的区区间间估估