5 2参数的最大似然估计_第1页
5 2参数的最大似然估计_第2页
5 2参数的最大似然估计_第3页
5 2参数的最大似然估计_第4页
5 2参数的最大似然估计_第5页
已阅读5页,还剩20页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、5.2最大似然估计例设一袋中装有红、白两种球, 从中随机取一球,取到红球取到白球q = 1 - p令 X = 1,X是总体. 0,X 01 qp p是取到红球的概率. 现在要估计 p作放回抽样, 取球10次(每次一球)第 i次取到红球 01 = 1,Xi = 1, 2,.,10X0, qpi第 i 次取到白球iX1 , X 2 ,., X10 是来自总体X的容量为10的样本.取到红球取到白球X 1 0X = 1,qp 0,X 是总体,现在要估计 p作放回抽样, 取球10次(每次一球) 01 第 i次取到红球第 i 次取到白球 1X qpX= ii 0i = 1, 2,.,10设已知10次摸球的

2、结果得到样本值( 1,0,1,0,0,0,1,0,0,0 ),10次摸球得此样本值的概率为= 1, X2 = X 4 = X 5 = X 6 = X 8 = X 9 = X10= 0P X1 = X 3= X7P X= 0 = P X = 1P X= 0=p3 (1 - p)7L( p)1012记为X 1 0qp 是取到红球的概率.p10次摸球得到样本值( 1,0,1,0,0,0,1,0,0,0 )的概率为L( p) = p3(1 - p)7最大似然估计的思想是:.01或0或10或1一次抽样有许多可能结果, 如果某一结果在一次抽样中出现了, 就认为这一结果是所有可能结果中概率最大的一个.本例中

3、, 一次抽样有210 个结果, 一次抽样后,出现结果( 1,0,1,0,0,0,1,0,0,0 ), 就认为得到此结果的概率p3(1 - p)7 最大. 即选择 p, 使L( p) =即求L( p) 的最大值点 p最大,p3 (1 - p)710次摸球得到样本值( 1,0,1,0,0,0,1,0,0,0 ) 的概率为 L( p) = p3 (1 - p)7 , 即求 L( p) 的最大值点pL( p) = 3 p2 (1 - p)7 -7 p3(1 - p)6=p2(1 - p)63(1 - p)-7 pp2 (1 - p)6 (3 - 10 p) = 10 p2(1 - p)6 ( 0.3

4、- p )=取 p = 0.3 作为 p的估计值.此时,一次抽样后,出现结果( 1,0,1,0,0,0,1,0,0,0 ) 的概率最大.L( p) = p3 (1 - p)7为待估参数 p的函数,L( p)0.31称为似然函数.L( p) 在 p = 0.3处达到最大值, 称 p = 0.3 为参数最大似然估计值.p的量,其分布率为 PX = x= p( x;q )设X是离散型随其中是待估参数当一次抽样得观测值X 取值为x的概率( x1 , x2 ,., xn )时,得此观测值的概率为:与 x有关,与参数有关P X1 = x1 , X., X= xn = x,n22= P X1= x1P X2

5、 = x2 . P Xn= xn 记为np( xi ;q )= L(q )=p( x ;q ) p( x ;q ) . p( x;q ) = 1n2i =1L(q )为待估参数的函数,称为似然函数.若 L(q )在q处达到最大值, 则称q为参数 q的最大似然估计值. 相应的估计量q( X1 , X 2 ,., Xn ) 称为的最大似然估计量. 统称为的 最大似然估计.当X是量时, 设其密度函数为连续型随X f ( x;q )其中是待估参数,记nL(q ) = f ( x1;q ) f ( x2 ;q ) . f ( xn ;q ) = f ( xi ;q )i =1L(q ) 称为似然函数.若

6、L(q ) 在q 处达到最大值, 则称q为参数 q的最大似然估计值. 相应的估计量 q( X, X,., X) 称为12n的最大似然估计量.统称为的最大似然估计.由于q是L(q ) 的最大值点, q 一般应满足条件:d L(q ) = 0, 从而满足条件d ln L(q ) = 1= 0dql n L(q ) =L(q )dq ln p( x1;q ) p( x2 ;q ). p( xn ;q )X是离散型随X 是连续型随量量= ln f ( x1;q ) f ( x2 ;q ). f ( xn ;q )离散型ln p( x ;q )+ ln p( x ;q )+. + ln p( x;q )

7、= 12nln f ( x1;q ) + ln f ( x2 ;q ) + . + ln f ( xn ;q ) 连续型d L(q )dq当只有一个待估参数时,求最大似然估计量的步骤:1.写出似然函数n p( xi ,q )X是离散型随X是连续型随量量L(q ) = i =1nf ( x ,q )i =1i2.写出似然方程d ln L(q ) = 1d L(q ) = 0或L(q )dqdq3.求解似然方程 得到驻点,并判断驻点是否为最大值点.= 0d L(q )dq几种常见分布的最大似然估计量1.01分布设总体X 01 为p待估参数.1 - ppP X = 1=p =p1(1 - p)0 ,

8、P X = 0= 1 - p= p0 (1 - p)1可统一表示为x = 0, 1设一抽样得观测值为 x1 , x2 ,., xn= x1 , X2 = x2 , ., Xn = xn L( p) =P X1= x2 . P Xn = xn = x1 P X2= P X1= px1(1 - p)1- x1 px2 (1 - p)1- x2 . pxn(1 - p)1- xn为似然函数.(1 - p) n -( x1 + x2+ . + xn )= px+ x + . + x12nP X = x=px(1 - p)1- x+(1 - p)n - ( x1 + x2+ . + xn )为似然函数.

9、+ . + xn ) ln(1 - p)L( p) = px+ x + . + x12nln L( p) =( x1 + x2 + . + xn ) ln p+n - ( x1+ x21d ln L( p) = ( x+ x+ . + x ) 1= 0n - ( x+ x+ . + x)1 - p12n12ndppi )(i )(n -)(n - xi) p 11 - p 1pnnnni=1x(1 -,i=1x=p) = xii =1i =11nnnnnx - px= n p - px ,xp = xii = n p,iiin i =1i =1i =1i =1i =1为 p的最大似然估计值,

10、p =1nXin i =1为p的最大似然 估计量.p =1nx为的最大似然估计值,pin i =11n为p的最大似然估计量.p =Xin i =1X 01 ,例如 总体为p待估参数.1 - pp已知10次摸球的结果得到样本值( 1,0,1,0,0,0,1,0,0,0 )即一次抽样, 得样本观测值为= 0p =x3 = 1x1 = 1x2 = 0x10110的p最大似然估计值为x= 0.3i10 i =12.泊松分布X P(l ), P X = k = l k设总体e- l ,k = 0,1, 2, 3,.k !lx即P X = x =e- l ,x = 0,1, 2, 3,.,为待估参数.x!

11、设样本观测值为 x1 , x2 ,., xnL(l ) = P X1 = x1 , X2= xn = x2 , ., Xn= P X1 = x1P X2= x2 . P Xn = xn x1 + x2 + . + xn= lel x1l x2l xn- nl=e- l e- lx2 !e- l.x1 !xn !x1 ! x2 !. xn !为似然函数.lnex1 + x2 + . + xnl l-ne为似然函数.L(l ) =x1 ! x2 !. xn !()nln L(l ) =ln l - ln( x! x!. x!)-nli =1xi12ni )()(d ln L(l )dl1 -n =

12、 01 = nnn=i =1xi =1xllil =1 nx为的最大似然估计值.in i =1l =1n为的最大似然估计量.Xin i =13.指数分布服从指数分布l e- l x ,x 0x 0设总体 Xf ( x) = X 0,为待估参数.求参数的最大似然估计.f ( x)解设样本观测值为x , x,., x1f ( x)dx = 02nPX 0=0-可以认为 xi 0,i = 1, 2,., nf ( x1 ,l )L(l ) =f ( x2 ,l )f ( xn ,l )e -l x1- l x2- . - l x nl e-l xle-l x= l e-l x= l nn21+ x2

13、 + . + x n )为似然函数.= l n e- l ( x1lnee-l ( x1 + x2 + . + x n )为似然函数.L(l ) = l nnln L(l ) = nlnl -l xii =1d ln L(l )dln 1=1lnn- xi = 0,i =1x= nlii =1l = n= 1=1为的最大似然估计值.1nnxi =1xi =1xiinl = 1= 1 为的最大似然估计量.1XnXin i =1时,当有两个或两个以上未知参数q1 ,q2 ,.,qk似然函数为PX = x ,., X= x= x,X11nn22= PX1= x1P X2= x2 . PXn= xn

14、= p( x1;q1 ,q2 ,.,qk)p( x2 ;q1 ,q2 ,.,qk ) . p( xn ;q1 ,q2 ,.,qk)n(离散型)= i =1或p( xi ;q1 ,q2 ,.,qk) = L(q,q,.,q)12k). f ( xn ;q1 ,q2 ,.,qkf ( x1;q1 ,q2 ,.,qknf ( x2 ;q1 ,q2 ,.,qk) (连续型)= i =1f ( x ;q,q,.,q) = L(q,q,.,q12ki12k时,当有两个或两个以上未知参数q1 ,q2 ,.,qk似然函数为L(q若似然函数在q,q,.,q,q,.,q*2*k),12k1达到最大,则称为q的最大

15、似然估计值,相应的q*ii估计量称为i的最大似然估计量.i = 1, 2,., k此时,一般应满足条件:q*i L(qiqi ln L(qiqi) = 0,) = 0或i = 1, 2,., kj( x)4.正态分布设总体 X 服从正态分布- ( x- m )2X j( x) = 1e2s 22p s的最大似然估计.求参数和s2令s 2 = d ,=d( x - m )22d-1eX j( x;m,d ) =和为待估参数,2pd求参数和的最大似然估计.j( x)令s 2= d ,=d( x - m )22d-1eX j( x;m,d ) =2pd求参数和的最大似然估计.解设样本观测值为x1 ,

16、 x2 ,., xn , 似然函数为:j ( xn ;m,d )L(m,d ) = j ( x ;m,d ) j( x ;m,d )21( x- m )2( x- m)2( x- m)2-n2de- 1 12pd1 212de e2d=2pd2pd- ( xn -m )2- ( x2 -m )2( x - m )21-e12d=2d2d ()npdn2 ( x- m ) - 12 - n- n2dei2 d= (2p )i =12n- 1( x- m)22d nn2ed -似然函数为 L(m,d ) = (2p )- 2ii =112dln L(m,d ) = - n ln(2p ) - n

17、lndn-( x- m)2i =1i22 ln L(m,d ) = -1- m )(-1) = 1nn( x- m )i =1i =12( xm2di =1dii(= 1- nm = 0nn= nxi =1xdii ln L(m,d )1 -1n1n- m)2= -2 d-2 d= 0i =1( xdm = 1i2n为的最大似然估计值.= xxin i =1mn- 1( x- m)2i =1 n2e-d -似然函数为ln L(m,d ) = -2dnL(m,dp) =i(2)2n2n212dn- m)2i =1( xln(2p ) -lnd -i(m,d ln L()1dnnx = n= xi

18、- nm = 0i =1mini =1 ln L(m,d )1 -1n1- x)2(2)= -2 d-2 d= 0( xi =1di2m = 1n为的最大似然估计值.x = xin i =1代入(2)式,解得 d = 1n ( x - x)2= s2i0ni =1为的最大似然估计值.n- 1( x- m)2i =1 n2e-d -似然函数为ln L(m,d ) = -2dnL(m,dp) =i(2)2n2n212dn- m)2i =1( xln(2p ) -lnd -i(m,d ln L()1dnnx = n= xi- nm = 0i =1mini =1 ln L(m,d ) =1 -1n1- m)2-2 d-2 d= 0( xi =1di21n =1n n( x - m )2m =i =1 xi = x 为的最大似然估计值.dd

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论