数理统计第三章习题课

1、 总体样本统计量描述作出推断随机抽样1英国著名统计学家 Fisher统计推断主要包括： 抽样分布、参数估计、假设检验2参数和参数函数：参数标记了分布，确定了参数就确定了分布常用的参数统计推断形式： 确定参数的值； 2 给出参数的某个范围； 3 推断参数是否属于某个范围点估计，区间估计，假设检验(参数假设检验和非参数假设检验)参数和参数函数具有特定的含义。3 参数估计问题是利用从总体抽样得到的样本来估计总体的某些参数或者参数的函数. 参数估计 在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数.45参数估计点估计区间估计点估计 估计未知参数的值区间估计 根据样本构造出适当的区 间

2、，使他以一定的概率包含 未知参数或未知参数的已知 函数的真值定义3.1.1(点估计)6估计量：用于估计参数的统计量如何求估计量？用某种想法（统计思想），给出估计量；在某种标准下求最优的估计量样本估计量估计值78 为估计 , 需要构造一个适当的统计量 每当有了样本观测值 x1, x2, xn ，就代入该统计量中算出一个 值 ： 作为未知参数 的近 似值 . 称为参数 的估计量 称为参数 的一个估计值9如何构造 ？矩估计法极大（最大）似然估计法 其基本思想是用样本矩估计总体矩矩估计法是英国统计学家K.皮尔逊最早提出的 矩估计法10这种求估计量的方法称为矩法. 注1： 从矩方法的做法可知，矩估计对总

3、体分布的假定少，只需要总体相应的各阶矩存在，故可视其为非参数方法。11注2： 但总体可能分布族的矩有时不存在，此时矩方法就无法应用，这是它的局限性。 例如： Cauchy分布族中的参数无法用矩估计方法得到参数的估计量。12 它首先是由德国数学家高斯在1821年提出的 , GaussFisher 然而，这个方法常归功于英国统计学家费歇(Fisher) . Fisher在1922年重新发现了 这一方法，并首先研究了这 种方法的一些性质 .极大似然估计定义13141516 极大似然估计的定义1718极大似然估计的求法1 利用微积分中求极值的方法19 似然函数极大似然估计：若 使则称 为的极大似然估计

4、.20求法：取对数似然，并令偏导数为0. k个方程的解 称为参数 的极大似然估计.21 (3) 在最大值点的表达式中, 用样本值代入 就得参数的极大似然估计值 .极值法求极大似然估计(MLE)的一般步骤是：(1) 由总体分布导出样本的联合概率函数 (联合分布列或联合密度函数);(2) 求似然函数L( ) 的最大值点(常常转化 为求ln L( )的最大值点) ，即 的MLE;2223242526常见的分布族，如二项分布族，Poisson分布族，正态分布族，Gamma分布族等都是指数族，定理3.3.1的条件都成立.因此似然方程的解就是有关参数的MLE.272 从定义出发求矩估计法和极大似然估计法的

5、比较矩估计法对总体分布要求较少28极大似然法要求知道总体分布（分布列或密度）两种方法的结果有时是一样的，有时有差别，极大似然估计相对来说有更多的优良性。 点估计的优良性准则 对于同一参数，用不同的估计方法求出的估计量可能不相同。 问题：采用哪一个估计量好?291无偏性3031无偏性说明1. 无系统性偏差.2. 要求估计量大量重复使用，在多次重复 使用下给出接近真值 的估计. 无偏估计以方差小者为好, 这就引进了有效性这一概念 .的大小来决定二者和一个参数往往有不止一个无偏估计, 若和都是参数 的无偏估计量，比较我们可以谁更优 .3233集中或分散程度用DX 衡量散集中EXEX定义3.1.3:2

6、.有效性3435大量实践表明：随着样本容量的增加，估计量 与被估计参数的偏差越来越小这是一个良好估计量应该具有的性质试想，若不然，无论做多少次试验，也不能把 估计到任意指定的精度，这样的估计量显然不可取.定义3.1.4:3.相合性3637注：估计量的相合性是对大样本提出的要求，是估计量的一种大样本性质.根据概率论可知上述三种相合性的关系如下：1 强相合推出弱相合，反之不一定；2 对任何r0,有r阶矩相合推出弱相合， 反之不一定383 强相合与有r阶矩相合之间没有包含关系一致最小方差无偏估计3940但是，一致最小均方误差估计常不存在.解决办法：把最优性准则放宽些，使得适合这种最优性的估计一般存在

7、.在一个大的估计类中，一致最优估计量不存在，把估计类缩小，就有可能存在一致最优的估计量.因此把估计类缩小为无偏估计类来考虑.41把不存在无偏估计的参数除外.若参数的无偏估计存在，则称此参数为可估参数.无偏估计一般不唯一在无偏估计类中，估计量的均方误差就是其方差.即若参数函数的无偏估计存在，则称此函数为可估函数.42对给定参数分布族，寻找可估函数的一致最小方差无偏估计的方法有如下：零无偏估计法，充分完全统计量法，Cramer_Rao不等式法43下面的引理提供了一个改进无偏估计的方法.44说明：45下面的定理给出了求UMVUE的方法，即充分完全统计量法，是由E.L.Lemann.和H.Scheff

8、e提出的，完全统计量的概念也是由他们在1950年提出.4647其中 0为未知参数 (2) 设0.5, 1, 1.5是总体X 的三个样本的观测值 ，求参数 的矩估计值 例1. 设总体X 的概率密度函数为(1) 设 , , 为来自总体的样本，求参数 的矩估计 48例2 设总体 X E(), X1, X2, Xn为总体的样本, 求的矩法估计量。故49解:由密度函数知 例3 设X1,X2,Xn是取自总体X的一个样本其中 0,求 的矩估计.具有均值为 的指数分布故 E(X- )= D(X- )=即 E(X)= D(X)=50解得令用样本矩估计总体矩即 E(X)= D(X)=5152解: 解得的矩估计.即

9、为X1,X2,Xn是取自X的样本,求参数 的矩估计. 例4设总体X的概率密度为53例6设总体 X 解, 其密度函数为求 和 的矩估计量.令54令解得55例7 设从某灯泡厂某天生产的一大批灯泡中 随机地抽取了10只灯泡，测得其寿命为 (单位：小时)： 1050, 1100, 1080, 1120, 1200 1250, 1040, 1130, 1300, 1200 试用矩法估计该厂这天生产的灯泡的平均 寿命及寿命分布的标准差.解7-145657解：似然函数为对数似然函数为例8 设X1,X2,Xn是取自总体X的一个样本求 的极大似然估计.其中 0,58求导并令其为0=0从中解得即为 的MLE .对

10、数似然函数为59 例9 设总体X的概率分布为 X012P 1-2 其中0 1/2为未知参数。今对X进行观测， 得如下样本值 0，1，2，0，2，1求 的极大似然估计。 60X012P 1-2 解：样本值 0，1，2，0，2，1似然函数为对数似然函数为似然方程为从中解得即为 的MLE .61设总体 X 为 X 的一个样本,求使P(XA)=0. 5的点A的极大似然估计.例1062例1163设总体 X 的密度函数为 为 X 的一个样本,(1)求参数 的矩估计,并讨论无偏性和弱相合性求参数 的极大似然估计, 并讨论无偏性和弱相合性.例1264令即故 Z 不是 的无偏估计量.设例13 设是总体 X 的一

11、个样本 ,X B ( n , p ) n 1 , 求 p 2 的无偏估计量. 解 由于样本矩是总体矩的无偏估计量以及数学期望的线性性质, 只要将未知参数表示成总体矩的线性函数, 然后用样本矩作为总体矩的估计量, 这样得到的未知参数的估计量即为无偏估计量. 令65因此, p 2 的无偏估计量为故66例14 设总体 X N ( , 2),为 X 的一个样本求常数 k , 使为 的无偏估计量解注意到是 X1, X2, Xn 的线性函数, 67 6869故注解题中最易发生错误是例15 设总体期望为 E( X )= , 方差 D( X )= 2 为总体X 的一个样本常数证明是 的无偏估计量(2) 证明比更有效证: (1) 707172比更有效结论算术均值比加权均值更有效.73例16 设是总体 的样本 ,试判别的估计量是否具有无偏性？解否,证明如下:于是