应用数理统计—参数估计

1、参数估计 2一、参数的点估计一、参数的点估计 点估计：通过点估计：通过样本求出样本求出总体参数的估计值总体参数的估计值 点估计方法：总体点估计方法：总体X的分布已知，但其参的分布已知，但其参数未知。对总体进行随机抽样，用数未知。对总体进行随机抽样，用样本样本X1, X2 , , Xn 构造合适的统计量作为参数构造合适的统计量作为参数 的估计量的估计量若抽取的样本值为若抽取的样本值为x1, x2 , , xn ,则则 就是就是 的估计值。的估计值。 点估计方法分为矩法和极大似然法。点估计方法分为矩法和极大似然法。),(21nXXXg ),(21nxxxg 31.矩法估计矩法估计设设X1, X2

2、, , Xn为为总体总体X的样本的样本,样本的样本的k阶原点矩：阶原点矩：样本的样本的k阶中心矩：阶中心矩：矩法估计就是用样本矩作为相应的总体矩矩法估计就是用样本矩作为相应的总体矩的估计量。的估计量。nikikXnA11kniikXXnB)(114矩法估计矩法估计 设总体设总体X分布函数中包含分布函数中包含m个未知参数个未知参数 1, 2, m，总体总体X的的k阶矩阶矩vk=E(Xk)= vk( 1, 2, m),k=1,2,m,以样本矩以样本矩Ak作为总体矩作为总体矩vk的的估计，即估计，即由由m个方程解出个方程解出 1, 2, m， 就是总体参数就是总体参数 k的的估计量，称为矩估计量。估

3、计量，称为矩估计量。mkXnvnikimk, 2 , 1,1),(121 ),(21nkXXX 5矩法估计矩法估计对具体抽取的样本值对具体抽取的样本值x1, x2 , , xn，则则 为为 k的估计值。的估计值。),(21nkxxx 62.极大似然估计极大似然估计设连续型总体设连续型总体X的概率密度函数为的概率密度函数为f(x; ), 是未知参数，简单随机样本是未知参数，简单随机样本X1, X2 , , Xn的联合概率密度函数为的联合概率密度函数为对于样本的观察值对于样本的观察值x1, x2 , , xn，称为似然函数。称为似然函数。niinxfxxxf121);();,(* niinxfxx

4、xLL121);();,()( 7极大似然估计极大似然估计极大似然估计法就是选取参数值极大似然估计法就是选取参数值 作为作为参数参数 的估计值，使样本落在观察值的估计值，使样本落在观察值(x1, x2 , , xn)的邻域里的概率的邻域里的概率 达到最大。对固定的达到最大。对固定的(x1, x2 , , xn)就是就是 选取选取 ，使，使 达到最大，即达到最大，即 L( )达到最大。达到最大。 niiixxf1d);( niixf1);( 8极大似然估计极大似然估计定义：定义：对固定的对固定的样本值样本值(x1, x2 , , xn)，若若有有 (x1, x2 , , xn) 使得使得则称则称

5、 是参数是参数 的极大似然估计值，相应的极大似然估计值，相应的的 (X1, ,X2, , ,Xn )是参数是参数 的极大似然估的极大似然估计量。计量。 由于由于L( )与与lnlnL( )有相同的极值，通有相同的极值，通常取对数常取对数似然函数求似然函数求极值极值。 );,(max);,(2121 nnxxxLxxxL 9极大似然估计极大似然估计求求极大似然估计的步骤：极大似然估计的步骤： 由总体的密度函数由总体的密度函数f(x; )，写出写出似然函似然函 数数 求出求出对数对数似然函数似然函数lnlnL 求出求出 , , 并令其为并令其为0 0，解出，解出 即得即得 niinxfxxxL12

6、1);();,( dLd ln 10极大似然估计极大似然估计注：注： 对对离散型总体离散型总体X，用分布律用分布律p(x; )代替代替f(x; )，做法与连续型总体一样。做法与连续型总体一样。 对总体分布中含多个未知数的情况对总体分布中含多个未知数的情况由由 解出解出 i即为即为 ),;,(2121knxxxL 0lnidLd i 113.估计量优良性的评定标准估计量优良性的评定标准 无偏性无偏性 设设 是是 的估计的估计量，若量，若E( )= = ，则称则称 是是 的的无偏无偏估计估计量。量。 有效性有效性 设设 都是都是 的的无偏无偏估计估计量，若量，若 D( )00 21, 1 2 1

7、2 恒恒成成立立。有有1lim Pn12二、参数的区间估计二、参数的区间估计 区间估计：区间估计： 根据样本求出未知参数的估计区间，使根据样本求出未知参数的估计区间，使这个区间包含未知参数的可靠程度达到这个区间包含未知参数的可靠程度达到预定的要求。预定的要求。13参数的区间估计参数的区间估计 定义：设总体定义：设总体X的分布含未知参数的分布含未知参数 ，由，由样本样本X1, X2 , , Xn确定两个统计量确定两个统计量 1(X1, X2 , , Xn)， 2(X1, X2 , , Xn) 如果对于如果对于给定的给定的 (0 1)， 有有 P 1 2 =1- - , 则称随机区间则称随机区间(

8、 1， 2 )为的置信区间，为的置信区间， 1- - 称为置信度称为置信度, 1称为置信下限，称为置信下限， 2称为置信上限，称为置信上限， 区间估计就是求置信区间区间估计就是求置信区间( 1， 2 )。14参数的区间估计参数的区间估计求置信区间的一般方法：求置信区间的一般方法： 构造合适的包含待估参数构造合适的包含待估参数 的统计量的统计量U, U 的分布已知的分布已知 给定置信度给定置信度1- - ，按照，按照 PU1U U2 =1- - 求求U1，U2，使得满足使得满足2,221 UUPUUP15参数的区间估计参数的区间估计 将将PU1U U2 =1- - 换成换成P 1 2 =1- -

9、 ，这里这里( 1， 2 )即为置信度即为置信度1- - 的的置信区间。置信区间。注：注： 这里的这里的U2就是就是U的分布的的分布的 上分位点上分位点 若密度函数为偶函数，则若密度函数为偶函数，则2 2221,UUPUUU16参数的区间估计参数的区间估计17参数的区间估计参数的区间估计1.1.正态总体数学期望的区间估计正态总体数学期望的区间估计总体总体XN( , 2)，E(X)= ， D(X)= 2样本样本X1, X2 , Xn , XiN( , 2)，i=1,2, ,nnXDXEnNXXnXnii221)(,)(),(,1 18正态总体数学期望的区间估计正态总体数学期望的区间估计分分两种情

10、况求两种情况求 的置信区间的置信区间(1)方差方差 2已知已知 构造统计量构造统计量 ，显然，显然Z N(0, 1) 给定置信度给定置信度1- - ，应有应有 P- -Z /2Z Z /2 = 1- - Z /2是正态分布是正态分布N(0,1)的上的上 /2分位点分位点nXZ/ 19正态总体数学期望的区间估计正态总体数学期望的区间估计 经经换算得到换算得到从而得出从而得出 的的1- - 置信区间为置信区间为对一次抽样的样本值得出具体样本均值对一次抽样的样本值得出具体样本均值x,从而得出一个确定的置信区间从而得出一个确定的置信区间 122nZXnZXPnZXnZX 22,nZxnZx 22,20

11、正态总体数学期望的区间估计正态总体数学期望的区间估计(2)方差方差 2未知未知用样本方差用样本方差 代替代替 2 构造统计量构造统计量 ，知，知Tt(n- -1) 给定置信度给定置信度1- - ，应有应有 P- -t /2(n- -1) T t /2(n- -1) = 1- - t /2(n- -1)是是t(n- -1)分布的上分布的上 /2分位点分位点21211niiXXnSnSXT/ 21正态总体数学期望的区间估计正态总体数学期望的区间估计 经换算得到经换算得到从而得出从而得出 的的1- - 置信区间为置信区间为对一次抽样的样本值有对一次抽样的样本值有 1) 1() 1(22nSntXnS

12、ntXPnSntXnSntX) 1(,) 1(22 nSntxnSntx) 1(,) 1(22 222.2.正态总体方差的区间估计正态总体方差的区间估计(1)数学期望数学期望 已知已知XN( , 2)， XiN( , 2)， 构造统计量构造统计量 给定置信度给定置信度1- - ，应有，应有 P 21- - /2(n) 2 2 /2(n) = 1- - ) 1 , 0( NXi )(,22122nXnii 知知23正态总体方差的区间估计正态总体方差的区间估计 经换算得到经换算得到 1)()(2112221222nXnXPniinii24正态总体方差的区间估计正态总体方差的区间估计从而得到从而得到

13、 2的的1- - 置信区间为置信区间为 的的1- - 置信区间为置信区间为)(,)(211221222nXnXniinii )(,)(211221222nXnXniinii 25正态总体方差的区间估计正态总体方差的区间估计(2)数学期望数学期望 未知未知用用X代替代替 ，用用(n- -1)S2代替代替构造统计量构造统计量从而得到从而得到 2的的1- - 置信区间为置信区间为,12niiX ) 1(,) 1(22222nSn 知知) 1() 1(,) 1() 1(2122222nSnnSn 263.3.两正态总体期望差的区间估计两正态总体期望差的区间估计XN( 1, 12),YN( 2, 22)

14、, X,Y相互独立，相互独立，X的样本为的样本为X1, ,X2, , ,Xn1，Y的样本为的样本为Y1, ,Y2, , ,Yn2，X- -Y是是 1 - - 2的点估计量的点估计量2112111,1njiniiYnYXnX),(22212121nnNYX 27两正态总体期望差的区间估计两正态总体期望差的区间估计分三种情况求分三种情况求 1 - - 2的置信区间的置信区间(1)方差方差 12 ， 22已知已知 构造统计量构造统计量 给定置信度给定置信度1- - ，应有，应有 P- -Z /2Z Z /2 = 1- - ) 1 , 0(22212121NnnYXZ 28两正态总体期望差的区间估计两

15、正态总体期望差的区间估计 经换算得出经换算得出 1 - - 2的置信区间为的置信区间为(2)方差方差 12 ， 22未知，但未知，但 12 = 22= 构造统计量构造统计量22212122212122,nnZYXnnZYX )2(11212121nntnnSYXTw 29两正态总体期望差的区间估计两正态总体期望差的区间估计其中其中 S12 ，S12分别为分别为X，Y的样本方差的样本方差 给定置信度给定置信度1- - ，应有，应有 P- -t /2T 50), 这时用这时用S12 ,S22代替代替 12 , 22 ， 同同 12 , 22已知的情况一样处理已知的情况一样处理, 1 - - 2的置

16、信区间类似地有的置信区间类似地有22212122212122,nSnSZYXnSnSZYX 314.4.两正态总体方差比的区间估计两正态总体方差比的区间估计XN( 1, 12),YN( 2, 22), X,Y相互独立，只相互独立，只考虑考虑 1, 2未知的情况下，方差比未知的情况下，方差比 12/ 22的区间估计的区间估计X的样本容量为的样本容量为n1，样本方差为，样本方差为S12 ，Y的样本容量为的样本容量为n2，样本方差为，样本方差为S22 ，) 1() 1(,) 1() 1(22222221221211nSnnSn 32两正态总体方差比的区间估计两正态总体方差比的区间估计 构造统计量构造

17、统计量 给定置信度给定置信度1- - ，应有，应有) 1, 1(,) 1() 1() 1() 1(2122212221222222121211nnFFSSnSnnSnF 1) 1, 1() 1, 1(212221222121122nnFSSnnFP33两正态总体方差比的区间估计两正态总体方差比的区间估计 经换算得经换算得注意到注意到所以所以 12 / 22的的1- - 置信区间为置信区间为 1) 1, 1() 1, 1(2112221222121222122nnFSSnnFSSP) 1, 1() 1, 1(11221122nnFnnF ) 1, 1(,) 1, 1(12222121222122

18、nnFSSnnFSS 345.(0,1)5.(0,1)分布参数分布参数p的区间估计的区间估计设总体设总体X(0,1)分布分布,PX=1=p, PX=0=1- -p,E(X)= p, D(X)=p(1- -p),求求p的置信区间。的置信区间。取样本取样本X1, X2 , , Xn，Xi (0,1)分布分布,),1 (,),(111pnpXDnpXEpnBXniiniinii二二项项分分布布35(0,1)(0,1)分布参数分布参数p的区间估计的区间估计当当n很大时很大时(50), 选统计量选统计量) 1 , 0()1 ()(,) 1 , 0()1 (1NpppXnNpnpnpXnii即即) 1 , 0()()1 (NpXppnZ36(0,1)(0,1)分布参数分布参数p的区间估计的区间估计 给定置信度给定置信度1- - ，应有，应有 P- -Z /2Z Z /2 = 1- - 将将p(1- -p)用用X(1- -X)近似，变换得近似，变换得所以所以p的的1- - 置信区间为置信区间为 1)1 ()1 (22nXXZXpnXXZXPnXXZXnXXZX)1 (,)1 (22 376.6.单侧置信区间单侧置信区间 单侧单侧置信区间问题：置信区间问题：对参数对参数 进行区间估计时，进行区间估计时，