估计量的评价标准(共29页).ppt

1、下下回回停停二、无偏估计二、无偏估计第二节第二节 估计量的评价标准估计量的评价标准三三、最小方差无偏估计最小方差无偏估计 四、有效估计四、有效估计五、五、相合估计相合估计( (一致估计一致估计) ) 一、问题的提出一、问题的提出一、问题的提出一、问题的提出 究竟采用哪一个估计量更好呢？这就究竟采用哪一个估计量更好呢？这就个数字特征出发，引入无偏性，有效性，个数字特征出发，引入无偏性，有效性， 对于总体分布中的同一个未知参数对于总体分布中的同一个未知参数, , 若采用不同的估计方法，可能得到不同的若采用不同的估计方法，可能得到不同的估计量估计量 。产生了如何评价与比较估计量的好坏的问产生了如何评

2、价与比较估计量的好坏的问题，我们从估计量的数学期望及方差这两题，我们从估计量的数学期望及方差这两最小方差无偏估计和相合性等概念。最小方差无偏估计和相合性等概念。二、无偏性二、无偏性设设 是参数是参数 的一个的一个 12nXXX， ， 估计量，如果估计量，如果 ,E ，满足关系式，满足关系式 1 2n， ， 如果如果 12nnnXXX， ， 的一列估计的一列估计limnnE则称则称 是是 的渐近无偏估计量的渐近无偏估计量. n 估计量估计量 如果不是无偏估计量如果不是无偏估计量, 就称这个估就称这个估 计量是有偏的，称计量是有偏的，称 为估计量为估计量 的偏差的偏差 . E 则称则称 是是 的无

3、偏估计的无偏估计(量量).22221,nnnE XE SE Sn2222nnXSS证证明明：样样本本均均值值 是是 的的无无偏偏估估计计. .样样本本方方差差是是的的渐渐近近无无偏偏估估计计. .修修正正样样本本方方差差是是的的无无偏偏估估计计. . 例例1证证所以，所以，X2nS和和均为无偏估计量，而均为无偏估计量，而2221limlimnnnE Sn故故 是是 的渐近无偏估计的渐近无偏估计. 2nS2 ().2XE XD X设设总总体体的的一一阶阶和和二二阶阶矩矩存存在在，分分布布是是任任意意的的，记记， 例例2 设总体设总体 服从区间服从区间 上的均匀分布上的均匀分布,X0， 12nXX

4、X， ， 是总体是总体 的一个样本的一个样本 . X 试证：参数试证：参数 的矩估计量的矩估计量 是是 的无偏的无偏 12X 的渐近无偏估计的渐近无偏估计. 证证 12222EEXE X 故故 的矩估计的矩估计 是无偏估计量是无偏估计量. 1 估计估计; 的最大似然估计的最大似然估计 niniLXX 1max 是是 1,00,nnX nnxxpx其其他他 LnX nEE Xxpx dx 101nnnnxxdxn 所以所以.的有偏估计量的有偏估计量是是 L但是但是, limlim1LnnnEn即即 是是 的渐近无偏估计量的渐近无偏估计量. L 但只要修正为但只要修正为 2( )11LnnnXnn

5、 那么那么 也是也是 的无偏估计量的无偏估计量. 2 1一个未知参数可能有不止一个无偏估计量一个未知参数可能有不止一个无偏估计量 .1 12 2 都是无偏估计量都是无偏估计量. 2有时一个参数的无偏估计可能不存在有时一个参数的无偏估计可能不存在. 例如，设总体例如，设总体 则则 | | 就没有无偏就没有无偏 ,1 ,XN 估计估计. 其中其中 . 2222 ( )12E Xe 12121, 设设和和为为满满足足的的任任意意常常数数 则则注注3有时无偏估计可能明显不合理有时无偏估计可能明显不合理. 例如，设例如，设 1X P 是来自泊松总体是来自泊松总体的一个的一个 12X3e 样本，可以证明样

6、本，可以证明是是的无偏估计的无偏估计. 但这个无偏估计明显不合理但这个无偏估计明显不合理. 当当 1X 取奇取奇 数值时，估计值为负数数值时，估计值为负数. 用一个负数估计用一个负数估计 ， 3e 明显不合理明显不合理 .三、最小方差无偏估计三、最小方差无偏估计 定义定义6.4如果存在如果存在 一个无偏估计量一个无偏估计量 ,使对使对 的任意无偏的任意无偏 0 估计量估计量 ,都有都有 0DD 则称则称 是是 的最小方差无偏估计的最小方差无偏估计(量量). 0 缩写为缩写为MVUE.若对任意的无偏估计量均为和设,21 .,2121有效比则称有样本容量 DDn最小方差无偏估计是一种最优估计最小方

7、差无偏估计是一种最优估计. 例例3设总体设总体 服从区间服从区间 上的均匀分布上的均匀分布,X0 ， 的一个样本，矩的一个样本，矩 12nXXX， ，是总体是总体X估计估计12X 和修正的最大似然估计和修正的最大似然估计 21nnXn 的无偏估计的无偏估计， 和和 哪个更有效？哪个更有效？ 均为均为 1 2 解解 221()4244123D XDDXD Xnnn 22211nnnnDDXD Xnn 222( )2(1)()nnnE XEXn ,1nnE Xn 2212( )02nX nnnnnE Xx px dxxdxn 22222222111,22nnnDnn nnn 显然当显然当 时时2n

8、 221232DDnn n 即即 比比 有效有效.2 1 是是存在，存在，设设),(0)(,)(212XXXDXE ,4143211XX ,2121212XX .3132213XX 例例4来自总体来自总体X的样本的样本, 问问: 下列三个对下列三个对 的无偏估计的无偏估计量哪一个最有效量哪一个最有效?解解,85)161169()(221 D,21)(22 D,95)(23 D)()()(132 DDD .2最有效最有效 注注)1(11 niiiniiCXC一般地，在一般地，在 的的 无偏估计量无偏估计量.最有效中，X可用求条件可用求条件极值的拉格极值的拉格朗日乘数法朗日乘数法证明证明定义定义6

9、.6设设 是未知参数是未知参数12,nnnXXX 的估计序列，如果的估计序列，如果 依概率收敛于依概率收敛于 ，即对，即对 n 任意任意 , 有：有： 0 lim1nnP lim0nnP 或或则称则称 是是 的相合估计的相合估计(或一致估计或一致估计). n 四、相合估计四、相合估计(一致估计一致估计) 且且 lim()0nnD , 则则 是是 的相合估计的相合估计(或一致估计或一致估计). n 证明证明0nP由于由于定理定理6.2设设n 是是 的一个估计量的一个估计量, 若若,lim nnE221()nE ( )nP x dx 22()( )nnP x dx 22()( )nP x dx 令

10、令 , 由定理的假设得由定理的假设得 n lim0nnP 即即 是是 的相合估计的相合估计 n 221nnnEEE 22212nnnnnnEEEEE 221nnDE 均值均值 的相合估计的相合估计. EX 若总体若总体 的的 和和 都存在都存在 , 证明证明 是总体是总体 EXXDXX证证因为因为EXEX0D XD Xnn 故故 是总体均值是总体均值 的相合估计的相合估计. XEX一般样本的一般样本的 阶原点矩阶原点矩 是总体是总体 阶阶 k11nkkiiAXnk原点矩的相合估计原点矩的相合估计. 矩估计往往是相合估计矩估计往往是相合估计. 例例9估计量的评选的四个标准，估计量的评选的四个标准

11、，但要求一下三个标准但要求一下三个标准 无偏性无偏性有效性有效性相合性相合性 相合性是对估计量的一个基本要求相合性是对估计量的一个基本要求, 不具备不具备 由最大似然估计法得到的估计量由最大似然估计法得到的估计量, 在一定条在一定条相合性的估计量是不予以考虑的相合性的估计量是不予以考虑的.有效性这两个标准有效性这两个标准.件下也具有相合性件下也具有相合性.估计量的相合性只有当样本估计量的相合性只有当样本容量相当大时容量相当大时,才能显示出优越性才能显示出优越性, 这在实际中这在实际中往往难以做到往往难以做到,因此因此,在工程中往往使用无偏性和在工程中往往使用无偏性和内容小结内容小结设总体设总体

12、X的方差的方差XD存在存在, 且且, 0XDnXXX,21为来自总体为来自总体X的样本的样本, 试选择适试选择适当的常数当的常数C, 使得使得1121niiiXXC为为D(X)的无偏估计的无偏估计.备用题备用题例例2-1)(1121niiiXXCE 1121)(niiiXXEC )()(21111 niiiiiXXEXXDC)()(),()(XDXDXEXEii ), 2, 1(ni )(2)()()(11XDXDXDXXDiiii 0)()()(11 iiiiXEXEXXE解解nXXX,21而而相互独立相互独立, 且与且与X 同分布同分布)(1121 niiiXXCE )()(21111 n

13、iiiiiXXEXXDC 11)(2niXDC)()1(2XDnC 依题意，依题意，)()(1121XDXXCEniii )()()1(2XDXDnC 即即.)1(21 nC设设1 及及2 为为 的两个独立的无偏估计量的两个独立的无偏估计量, 且假定且假定 ,221 DD求常数求常数,21CC 及及使使 .,2211达到最小达到最小并使并使的无偏估计的无偏估计为为 DCC解解 212211CCCCEE . 1,21CCE则则由由 222212221212 DCCDCDCD方差方差例例5-11222211,2,CCCCfD将将最小最小只需只需最小最小要使要使 有有代入代入 f123121212121CCCCf,最小时最小时当当 f.32,3121CC则则 设总体设总体 的二阶矩存在，的二阶矩存在，X12nXXX， ，是来自总体是来自总体 X 的一个样本的一个样本 ， . 1,2,n 试证试证 是总体均值是总体均值 的相合估计的相合估计. 121nniiiXn n 证证因为因为1122()11nnniiiiEEiXiEXn nn n 1122112nin nin nn n 例例9-1222112411nnniiiiDDiXi D Xn nnn 222141nii D Xnn22121461n nn