概率论第七章

1、7.1.1 点估计概念点估计概念7.1.2 矩估计法矩估计法7.1.3 顺序统计量顺序统计量返回返回7.1.4 最大似然估计法最大似然估计法广东工业大学广东工业大学1、估计量、估计量2、估计值、估计值7.1.1 点估计概念点估计概念 设总体设总体X的分布中含有未知参数的分布中含有未知参数 , 为总体的为总体的 nXXX,21一个样本一个样本.用这个样本构造的统计量用这个样本构造的统计量 来估计来估计 , ),(21nXXX 则称则称 为为 估计量估计量. 用样本的一组观察值用样本的一组观察值 得到估计量得到估计量 的值的值nxxx,21),(21nxxx 则称为则称为 的的估计值估计值. 为方

2、便起见，估计量与估计值不加区别，统称为估计。为方便起见，估计量与估计值不加区别，统称为估计。3、点估计、点估计用构造一个统计量用构造一个统计量 对参数对参数 作定值的估计称为作定值的估计称为参数的点参数的点 估计估计。广东工业大学广东工业大学7.1.2 矩估计法矩估计法 1、原理、原理 设设X为总体，为总体， 为样本，为样本， 为样本均值，则有为样本均值，则有nXXX,21X1|lim EXXPn大数定律大数定律即当即当n 很大时，样本均值很大时，样本均值 就很接近于总体均值就很接近于总体均值 。XEX因此，当因此，当n 很大时，用样本均值很大时，用样本均值 来估计总体均值来估计总体均值 是是

3、XEX比较合理的。比较合理的。此依据推而广之：此依据推而广之： 用样本的用样本的k 阶中心矩来估计总体阶中心矩来估计总体k 阶中心矩。阶中心矩。 即用即用 来估计来估计 。 nikikXnM11)(kXE矩估计法矩估计法广东工业大学广东工业大学2、矩法估计的步骤、矩法估计的步骤: (1) 列出矩估计式列出矩估计式.求总体求总体 的前的前k阶矩阶矩 ),;(21kXF dxxfxEXaiii)(ki, 2 , 1 (2) 解上述方程组解上述方程组.将未知参数将未知参数 表示为表示为 k ,21kaaa,21的函数的函数 ),(21kiiaaag ki, 2 , 1 (3) 求出矩估计求出矩估计.

4、即用样本矩即用样本矩 代替总体相应的矩代替总体相应的矩 得到得到 nititXnM11ttEXa 未知参数的矩估计为未知参数的矩估计为 ),(21kiiaaag ki, 2 , 1 广东工业大学广东工业大学解解 （1）列出矩估计式）列出矩估计式 EXa 1)(22XEa 2)(EXDX （2）求解方程组得）求解方程组得 1aEX 212aaDX （3）求出矩估计）求出矩估计 niiniiXnMXnM122111,1用用 分别代替分别代替 即得矩估计：即得矩估计： 21,aaXMEX 1212MMDX 2121XXnnii 21)(1XXnnii 2S 例例1 求总体求总体X的均值的均值EX与方

5、差与方差DX的矩估计的矩估计. 广东工业大学广东工业大学例例2 设总体设总体X的服从参数为的服从参数为 的指数分布，求该未知参数的指数分布，求该未知参数 的矩估计的矩估计. 广东工业大学广东工业大学 其它其它00)(6),(3 xxxxfnXXX,21例例3 3（9999） 设总体设总体X的概率密度函数为的概率密度函数为 是取自的是取自的X的一个样本的一个样本. .（1）求）求 的矩估计量的矩估计量 ; （2 2）求）求 的方差的方差 . . )( D广东工业大学广东工业大学例例4 4（9797） 设总体设总体X的概率密度函数为的概率密度函数为 其其它它010)1(),(xxxf nXXX,2

6、1其中其中 是未知参数。是未知参数。是取自是取自X的一个样本。的一个样本。1 分别用矩法估计和最大似然估计法求分别用矩法估计和最大似然估计法求 的估计量的估计量. 广东工业大学广东工业大学, 3 , 2 , 1 , 3 , 0 , 3 , 1 , 3例例5 5（0202）设总体设总体X的概率分布为的概率分布为 其中其中 是未知参数，利用总体是未知参数，利用总体X的如下样本值的如下样本值 求求 的矩估计值和最大似然估计值。的矩估计值和最大似然估计值。XP01232 )1(2 2 21 )210( 广东工业大学广东工业大学7.1.3 顺序统计量法顺序统计量法 广东工业大学广东工业大学7.1.4 最

7、大似然估计法最大似然估计法设设 是取自总体是取自总体X的一个样本观察值的一个样本观察值,分布函数为分布函数为 nxxx,21),;,(21 nxxxFnxxx,21如果当未知参数如果当未知参数 取取 时时, 被取到的概率最大被取到的概率最大,则称则称 为为 的最大似然估计的最大似然估计. 1、 最大似然估计的原理最大似然估计的原理广东工业大学广东工业大学).,;(21kiixpxXP ),;(),;,(211212211kniikkkxpxXxXxXP 设总体设总体X的概率分布为的概率分布为).( L 称为称为似然函数似然函数),;()(211kniixpL 则样本则样本 的联合概率分布为的联

8、合概率分布为),(21nXXX即即 使使 达到最大的达到最大的 即为即为 的最大似然估计的最大似然估计. )( L2、离散型、离散型:广东工业大学广东工业大学3 3、连续型：、连续型：),;(21kxf k ,21nXXX,21),(21nXXX设总体设总体X的密度函数为的密度函数为是待估计参数。是待估计参数。是取自是取自X的一个样本。则的一个样本。则的联合密度函数为的联合密度函数为),;,(2121knxxxf ),;(211kniixf 称为称为似然函数似然函数)( L ),;()(211kniixfL 即即 使使 达到最大的达到最大的 即为即为 的最大似然估计的最大似然估计. )( L广

9、东工业大学广东工业大学3 3、连续型：、连续型：),;()(211kniixfL 使使 达到最大的达到最大的 即为即为 的最大似然估计的最大似然估计. )( L),;()(211kniixpL 2、离散型、离散型:4、估计步骤：、估计步骤：a.a.写出似然函数写出似然函数),;()(211kniixfL .,21k b.求出使求出使 达到最大的达到最大的 )( Lc.用用 作为作为 的估计量，的估计量，k ,21k ,21的函数作为的函数作为 的同一函数的估计量。的同一函数的估计量。k ,21k ,21用用广东工业大学广东工业大学5 5、解题具体步骤：、解题具体步骤： a.a.写出似然函数写出

10、似然函数),;()(211kniixfL b.求对数似然函数求对数似然函数 ).(ln Lc.求导并令其导数等于求导并令其导数等于00)(ln1 L0)(ln2 L0)(ln kL d.解上述方程组。解上述方程组。即为即为 的最大似然估计。的最大似然估计。k ,21k ,21其唯一解其唯一解广东工业大学广东工业大学例例1 离散型随机变量离散型随机变量X 服从服从 分布，从分布，从X中抽得容量为中抽得容量为n的样本的样本10 nXXX,21的一组观察值的一组观察值 ，或或), 2 , 1; 10(,21nixxxxin 求参数求参数 p 的最大似然估计，其中的最大似然估计，其中 .01,1 XP

11、pXPp广东工业大学广东工业大学例例2 求总体求总体X的服从参数为的服从参数为 的指数分布，求的指数分布，求 的最大似然估计的最大似然估计. 广东工业大学广东工业大学例例3 求总体求总体 ，求，求 与与 的最大似然估计的最大似然估计. ),(2 NX 2 例例4 设总体设总体 为取自总体的一个样本观察值，为取自总体的一个样本观察值， nxxxbaUX,21求未知参数求未知参数 的最大似然估计。的最大似然估计。ba,广东工业大学广东工业大学 xxexfx02),()(2nxxx,21例例5 5（0000）设某种元件的使用寿命设某种元件的使用寿命X的概率密度为的概率密度为 其中其中 是未知参数。又

12、设是未知参数。又设是是X的一组样本的一组样本0 观测值。求参数观测值。求参数 的最大似然估计值的最大似然估计值. 广东工业大学广东工业大学, 3 , 2 , 1 , 3 , 0 , 3 , 1 , 3例例6 6（0202）设总体设总体X的概率分布为的概率分布为 其中其中 是未知参数，利用总体是未知参数，利用总体X的如下样本值的如下样本值 求求 的矩估计值和最大似然估计值。的矩估计值和最大似然估计值。XP01232 )1(2 2 21 )210( 广东工业大学广东工业大学 10111);(xxxxF nXXX,21例例7 7（0404）设总体设总体X的分布函数为的分布函数为 其中其中 是未知参数

13、。是未知参数。是取自是取自X的一个样本的一个样本. .求求1 （1）（2） 的最大似然估计量。的最大似然估计量。 的矩估计量；的矩估计量； 广东工业大学广东工业大学 其它其它021110),(xxXf nXXX,21例例8 8（0606）设总体设总体X的概率密度为的概率密度为 为来自为来自X的简单的简单其中其中 是未知参数，是未知参数，1)(0 简单随机样本，记简单随机样本，记N为样本值为样本值 中小于中小于1的个数，的个数，nxxx,21求求 的最大似然估计。的最大似然估计。 广东工业大学广东工业大学7.2.1 无偏性无偏性7.2.2 有效性有效性7.2.3 一致性一致性返回返回广东工业大学

14、广东工业大学7.2.1 无偏性无偏性 设设 是参数是参数 的估计量的估计量,若若 E则称则称 是是 的的无偏估计无偏估计. 广东工业大学广东工业大学例例1 证明样本均值证明样本均值 与样本方差与样本方差 niiXnX11212)(11XXnSnii 分别是总体均值分别是总体均值 与总体方差与总体方差 的无偏估计的无偏估计. 2 广东工业大学广东工业大学例例2 2 设总体设总体 为简单随机样本为简单随机样本, ,则则 的的 无偏估计量为无偏估计量为（A A）（B B）（C C）nXXXNX,), 0(212 2 niiXn12211 （D） niiXn1221 niiXn12211 niiXnn

15、1222)1( 广东工业大学广东工业大学nXXX,21)2( n例例3 3 设设是正态总体是正态总体 的一个样本。求的一个样本。求适当的常数适当的常数c，使得，使得 为为 的无偏估计。的无偏估计。),(2 N2111)( niiiXXcQ2 广东工业大学广东工业大学7.2.2 有效性有效性 21 DD 设设 与与 都是都是 的无偏估计的无偏估计,若对任意样本容量若对任意样本容量n,都有都有1 2 则称则称 较较 有效有效. 1 2 广东工业大学广东工业大学例例1 1 设总体设总体X的期望为的期望为 ，方差为，方差为 ，分别抽取容量为，分别抽取容量为 的两的两 满足满足 的常数，则的常数，则 就

16、是就是 的无偏估计，的无偏估计， 2 21,nn个独立样本，个独立样本， 为两个样本的均值，试证：如果为两个样本的均值，试证：如果a,b是是21,XX1 ba21XbXaY 并确定并确定a,b ,使使DY最小。最小。广东工业大学广东工业大学7.2.3 一致性一致性 1|lim nnP设设 是参数是参数 的估计量的估计量, n当当 时时, 依概率收敛于依概率收敛于 , 即对任意即对任意 ,有有 0 则称则称 是是 的的相合估计量相合估计量或或一致估计量一致估计量. 广东工业大学广东工业大学nXXX,21例例1 1 设设是正态总体是正态总体 的一个样本。求的一个样本。求),(2 NX证证 为为 的

17、一致估计。的一致估计。2 212)(11XXnSnii 广东工业大学广东工业大学1 1、样本均值和样本方差分别是是总体期望和方差的无偏估计、样本均值和样本方差分别是是总体期望和方差的无偏估计. .一些重要结论一些重要结论2 2、样本的任意、样本的任意k阶原点矩均是对应的总体阶原点矩均是对应的总体k阶原点矩的一致估计阶原点矩的一致估计. 3 3、若、若 为为 的无偏估计的无偏估计, ,且且 , ,则则 为为 的一致估计。的一致估计。 )(0)( nD 4 4、若、若 为为 的矩估计的矩估计, , 为连续函数为连续函数, ,则则 为为 的矩估计的矩估计. . )(xg)( g)( g5 5、若、若

18、 为为 的最大似然估计的最大似然估计, , 为单调增函数为单调增函数, ,则则 为为 的最大似然估计的最大似然估计. . )(xg)( g)( g广东工业大学广东工业大学第三节第三节 参数的区间估计参数的区间估计返回返回7.3.1 基本概念基本概念7.3.2 单个正态总体的区间估计单个正态总体的区间估计7.3.3 两个正态总体的区间估计两个正态总体的区间估计广东工业大学广东工业大学7.3.1 基本概念基本概念 1、 置信区间与置信度置信区间与置信度 设总体设总体X的分布中含有未知参数的分布中含有未知参数 ，若，若 与与 ),(211nXXX ),(212nXXX 为由样本为由样本 所确定的两个

19、统计量，所确定的两个统计量，nXXX,21若对给定的常数若对给定的常数 有有 )10( 121P则称则称 为参数为参数 的的置信度置信度(置信水平置信水平)为为 的的置信区间置信区间。 1),(21 :1 :2 置信下限置信下限 置信上限置信上限 广东工业大学广东工业大学假设总体假设总体X服从正态分布服从正态分布 7.3.2 单个正态总体的区间估计单个正态总体的区间估计 nXXXN,),(212 是样本是样本.考虑下面几种区间估计考虑下面几种区间估计:（1） 已知，求已知，求 的置信区间的置信区间 2 （2） 未知，求未知，求 的置信区间的置信区间 2 （3） 已知，求已知，求 的置信区间的置

20、信区间 2 （4） 未知，求未知，求 的置信区间的置信区间 2 广东工业大学广东工业大学易知易知 ),(2nNX 取统计量取统计量 nXu/ 则有则有 )1 , 0(/NnXu 对给定的置信度对给定的置信度 ,使使 1 1|2uuP即即 122uuuP从而有从而有 122nuXnuXP即即 的置信度为的置信度为 的置信区间为的置信区间为 1),(22nuXnuX 7.3.2.1 已知，求已知，求 的置信区间的置信区间 2 x)(xfO2 u2/ 12 u 2/ 广东工业大学广东工业大学例例1 已知某厂生产的滚珠直径已知某厂生产的滚珠直径 ，从某天生产的滚，从某天生产的滚珠中随机抽取珠中随机抽取

21、6个，测得直径为（单位：个，测得直径为（单位：mm)06. 0 ,( NX1 .152 .158 .149 .141 .156 .14求求 的置信概率为的置信概率为0.95的置信区间。的置信区间。 ),(22nuXnuX 广东工业大学广东工业大学),1 ,( N例例1 1（0303）已知一批零件的长度已知一批零件的长度x（单位：（单位：cm）服从正态分布）服从正态分布从中随机地抽取从中随机地抽取1616个零件，得到长度的平均值为个零件，得到长度的平均值为4040的置信区间是的置信区间是 。（cm），则），则 的置信度为的置信度为0.95 （注（注:标准正态分布函数值标准正态分布函数值 ）95.

22、 0)645. 1(,975. 0)96. 1( ),(22nuXnuX 广东工业大学广东工业大学7.3.2.2 未知，求未知，求 的置信区间的置信区间 2 取统计量取统计量 对给定的置信度对给定的置信度 ,使使 1 1|2tTP即即 122tTtP从而有从而有 122nStXnStXP即即 的置信度为的置信度为 的置信区间为的置信区间为 1),(22nStXnStX )1(/ ntnSXT x)(xfO2 t2/ 12 t 2/ 广东工业大学广东工业大学例例1 1 设总体设总体X的样本方差为的样本方差为1，据来自，据来自X的容量为的容量为100的简单随的简单随机样本，测得均值为机样本，测得均

23、值为5，则，则X的期望的置信度近似等于的期望的置信度近似等于0.95的置的置信区间为信区间为 。),(22nStXnStX ),(22nuXnuX 7.3.2.2 未知，求未知，求 的置信区间的置信区间 2 7.3.2.1 已知，求已知，求 的置信区间的置信区间 2 广东工业大学广东工业大学 取统计量取统计量 对给定的置信度对给定的置信度 ,使使 1 1)()(22221nWnP从而得到从而得到 的置信度的置信度2 )()(12122nXWnii )(22nWP 2)(221 nWP其中其中 ,)()(2212nXnii )()(22112nXnii 7.3.2.3 已知，求已知，求 的置信区

24、间的置信区间 2 x)(xfO)(22n 2/ 2/ )(221n 1为为 的置信区间为的置信区间为广东工业大学广东工业大学例例1 已知某厂生产的零件已知某厂生产的零件 ，从某天生产的零件，从某天生产的零件中随机抽取中随机抽取4个，得样本观察值个，得样本观察值), 6 .12(2 NX求求 的置信概率为的置信概率为0.95的置信区间。的置信区间。2 2 .138 .124 .136 .12,)()(2212nXnii )()(22112nXnii 广东工业大学广东工业大学取统计量取统计量 对给定的置信度对给定的置信度 ,使使 1 1)1()1(22221nWnP )1(22nWP 2)1(22

25、1 nWP其中其中 ,)1()(2212 nXXnii )1()(22112 nXXnii ) 1() 1()(1222122 nSnXXWnii 7.3.2.4 未知，求未知，求 的置信区间的置信区间 2 从而得到从而得到 的置信度的置信度2 1为为 的置信区间为的置信区间为x)(xfO)1(22 n 2/ 2/ ) 1(221 n 广东工业大学广东工业大学7.3.2.3 已知，求已知，求 的置信区间的置信区间 2 ,)()(2212nXnii )()(22112nXnii 7.3.2.4 未知，求未知，求 的置信区间的置信区间 2 ,)1()(2212 nXXnii )1()(22112

26、nXXnii 广东工业大学广东工业大学例例1 已知某厂生产的零件已知某厂生产的零件 ，从某天生产的零件中，从某天生产的零件中随机抽取随机抽取4个，得样本观察值个，得样本观察值),(2 NX求求 的置信概率为的置信概率为0.95的置信区间。的置信区间。2 2 .138 .124 .136 .12,)1()(2212 nXXnii )1()(22112 nXXnii 广东工业大学广东工业大学7.3.3 两个正态总体的区间估计两个正态总体的区间估计 已知两个相互独立正态总体已知两个相互独立正态总体),(),(222211 NYNX考虑下面几种区间估计考虑下面几种区间估计:分别为其样本。分别为其样本。

27、1,21nXXX2,21nYYY与与 （1 1） 已知，求已知，求 的置信区间的置信区间 2221, 21 （2 2） 未知，求未知，求 的置信区间的置信区间 22221 21 （3 3） 已知，求已知，求 的置信区间的置信区间 2221/ 21, （4 4） 未知，求未知，求 的置信区间的置信区间 2221/ 21, 广东工业大学广东工业大学7.3.3.1 7.3.3.1 已知，求已知，求 的置信区间的置信区间 2221, 21 取统计量取统计量 对给定的置信度对给定的置信度 ,使使 1从而得到从而得到 的置信度为的置信度为 的置信区间为的置信区间为 21 1)1 , 0(/)()(2221

28、212121NnnXXU 1|2uUP 222121221222121221)( ,)(nnuXXnnuXX x)(xfO2 u2/ 12 u 2/ P176定理定理8广东工业大学广东工业大学),60,(1 NX)36,(2 NY50,7521 nn,76,82 YX例例1 1 设两总体设两总体X, ,Y相互独立相互独立, ,且且从从X,Y中分别抽取容量为中分别抽取容量为的样本，且算得的样本，且算得求求 的的95%95%的置信区间的置信区间. . 21 222121221222121221)( ,)(nnuXXnnuXX 广东工业大学广东工业大学7.3.3.2 7.3.3.2 未知，求未知，求 的置信区间的置信区间 22221 21 取统计量取统计量 对给定的置信度对给定的置信度 ,使使 1从而得到从而得到 的置信度为的置信度为 的置信区间为的置信