高等工程数学 第二讲 参数估计

总体样本统计量描述作出推断随机抽样第十三章参数估计参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的函数.1.1参数估计在参数估计中，假定总体分布已知，未知的仅仅是一个或几个参数.参数估计点估计区间估计§13.1求点估计量的方法点估计的方法矩估计法最大似然法参数估计是对已知分布类型的总体，利用样本对其未知参数作出估计。一、

矩法理论依据:大数定律它是由简单“替换”的思想建立起来的一种估计方法.是英国统计学家K.皮尔逊最早提出的.用相应的样本矩去代替总体矩的估计方法就称为矩估计法.解:由矩估计法,样本矩总体矩从中解得的矩估计.即为数学期望是一阶原点矩

例1

设总体X的概率密度为(p24,ex2)是未知参数,其中X1,X2,…,Xn是取自X的样本,求参数

的矩估计.例2区间[0,]上均匀分布的矩估计 设样本X1，X2，…，Xn是来自在区间[0,]上均匀分布的总体，

未知，求

的矩估计。解：#注意：估计量是随机变量而期望是数值注意：样本矩是随机变量，而总体矩是数值要注意相应的字母大小写区分注：1运用矩估计的前提条件是总体对应的各阶矩要存在。2尽量用低阶样本矩去估计未知参数。

二、

极大似然法它首先是由德国数学家高斯在1821年提出的,GaussFisher费歇尔在1922年重新发现了这一方法，并首先研究了这种方法的一些性质.最大似然法的基本思想先看一个简单例子：一只野兔从前方窜过.是谁打中的呢？某位同学与一位猎人一起外出打猎.如果要你推测，你会如何想呢?只听一声枪响，野兔应声倒下.你就会想，只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率.看来这一枪是猎人射中的.这个例子所作的推断已经体现了极大似然法的基本思想.例极大似然法---简例例如果一个老兵和一个新兵同时打靶，但仅有一人命中，问谁命中的可能性大？

(1)老兵(2)新兵大家首先想到的是老兵，因为它更符合情理！例若袋中有黑白两种球(除颜色外别无差异),且已知两种球数之比为1:3，现任取一球，发现是白色，问哪种颜色的球多一些？显然，大家都会觉得白色的多一些。#极大似然法的基本思想选择一个参数使得实验结果具有最大概率的思想就是最大似然法的基本思想.极大似然估计原理：当给定样本x1,x2,…xn时，定义似然函数为：设X1,X2,…Xn是取自总体X的一个样本，样本的联合密度(连续型)或联合分布律(离散型)为f(X1,X2,…Xn;).最大似然估计法就是用使达到最大值的去估计

.称为的最大似然估计（MLE）.求极大似然估计的一般步骤：1.写出似然函数：4.解似然函数方程组得即为所求。2.对似然函数取对数：3.对j(j=1,…,m)分别求偏导，并令其为0得似然方程(组)：例指数分布的点估计例某电子管的使用寿命X（单位：小时)(从开始使用到首次失效为止）服从指数分布，

今取一组样本，数据如下，问如何估计θ？162950681001301402702803404104505206201902108001100解：可用两种方法估计：矩法估计和极大似然估计（二）极大似然估计构造似然函数：（一）矩法估计求偏导：求解得：#取对数：例均匀分布的极大似然估计

设样本X1，X2，…，Xn是来自在区间[0,]上均匀分布的总体，未知，求的极大似然估计。解:注意：该似然函数不能用一般方法----通过求导构造似然方程。尝试用其他方法求解！#从前例可以看到,对于同一个参数,用不同的估计方法求出的估计量可能不相同,而且,很明显,原则上任何统计量都可以作为未知参数的估计量.问题(1)对于同一个参数究竟采用哪一个估计量好?评价估计量的标准是什么?下面介绍几个常用标准.(2)我们希望一个“好的”估计量具有什么特性？(3)怎样决定一个估计量是否比另一个估计量“好”？第二节估计量的评选标准无偏性有效性相合性估计量是随机变量，对于不同的样本值会得到不同的估计值.我们希望估计值在未知参数真值附近摆动，而它的期望值等于未知参数的真值.这就导致无偏性这个标准.一、无偏性则称为的无偏估计

.设是未知参数的估计量，若例：下列估计量是否μ的无偏估计量？由上例可见，一个参数的无偏估计可以有很多；无偏估计只能保证无系统误差，；但是却可能有极大的偏差。因此一个优良的估计量，其方差应该较小。二、有效性D()≤D()则称较有效.都是参数

的无偏估计量，若对任意，设和且至少对于某个上式中的不等号成立，例：下列估计量哪一个更有效？例一般地，在的无偏估计量三、相合性任意，当时依概率收敛于,则称为的相合估计量.设是参数

的估计量，若对于为的相合估计量对于任意,有点估计的缺陷：由于样本是随机的，估计值可能非真值----即便估计量是无偏有效估计量。即使估计值等于真实值，也无从肯定；若不等于真实值，不知相差多少。改进：对于θ的估计，给定一个范围：，并满足:我们希望两者都能满足，但这二者是矛盾的！无法同时满足。于是可以将上述两个要求改为：在一定可靠程度下找出被估参数的可能取值范围

譬如，在估计湖中鱼数的问题中，若我们根据一个实际样本，得到鱼数N的极大似然估计为1000条.若我们能给出一个区间，在此区间内我们合理地相信N的真值位于其中.这样对鱼数的估计就有把握多了.实际上，N的真值可能大于1000条，也可能小于1000条.也就是说，我们希望确定一个区间，使我们能以比较高的可靠程度相信它包含真参数值.湖中鱼数的真值[]这里所说的“可靠程度”是用概率来度量的，称为置信度或置信水平.习惯上把置信水平记作，这里是一个很小的正数.第三节区间估计置信区间定义置信区间的求法单侧置信区间定义设总体的未知参数为θ，由样本X1，…，Xn确定两个统计量和，对于给定的实数a(0<a

<1)，满足则称随机区间为θ的置信度为1-a的置信区间。1-a又称置信系数或置信概率

a又称置信水平，通常取值为0.1，0.05等等。两点要求1可靠性：2精确性：要求估计的精确度尽可能的高，这是一对矛盾，一般是在保证可靠度的条件下尽可能提高精确度.正态分布中μ的区间估计例设X~N(μ,σ2)，σ2=σ02已知，求参数μ的置信度为1-a的置信区间。分析:要估计参数，就涉及统计量；而选取统计量应根据优良性质准则来选。这里μ的优良估计是：2）将统计量化为常用分布，再通过临界值确定区间。这里：它是无偏、有效、相合估计解：是μ的优良估计，且令由标准正态分布的对称性可知从而，前式可化为：即由此可得，μ的置信度为1-a的置信区间为：从而特别，当σ0=1，a=0.05

，样本观测值为：5.15.14.85.04.75.05.25.15.0u

α/2=

，m的置信区间为：1.96[4.35，5.65]寻找置信区间的步骤(枢轴变量法)：选取待估参数θ的估计量；原则：优良性准则常用：对查上侧分位数；代换得到

区间[A，B]即为所求。考察含有待估参数和估计量的统计量所服从的分布

(不能含有其他未知参数)；

化至常用分布(主要是：正态、2

、t、F分布)；

相应的变换函数W

称为枢轴变量可见，确定区间估计很关键的是要寻找一个待估参数和估计量T的函数U(T,),且U(T,)的分布为已知,不依赖于任何未知参数.而这与总体分布有关，所以，总体分布的形式是否已知，是怎样的类型，至关重要.单个正态总体的抽样双正态总体的抽样未知参数的替换例设X~N(μ,σ2)，σ2未知，求参数μ的置信度为1-α的置信区间。是μ的优良估计思考：是否仍选统计量分析：1.令求得置信区间？不可因为σ2未知，故U不是统计量2.据抽样分布定理有：得T

的置信区间：由分布的对称性，即可化为：代换后可得μ

的置信区间：比较：σ2=σ02

时，μ的置信区间为一、正态总体均值的区间估计二正态总体方差的区间估计分析:应选统计量为：当μ未知时，要化至常用分布，由抽样分布定理可知：零件长度的方差例从自动机床加工的同类零件中任取16件测得长度值为(单位：mm)

求方差的估计值和置信区间(α=0.05)。12.1512.1212.0112.2812.0912.1612.0312.0112.0612.1312.0712.1112.0812.0112.0312.06解：设零件长度为X，可认为X服从正态分布，由于μ未知，S2是σ2的优良估计，相应的常用分布为：相应的置信区间为：查c2分布表可得：下面计算方差的置信区间：σ2的置信度为0.95的置信区间为：三、两个正态总体均值差的区间估计四、两个正态总体方差比的区间估计五、单侧置信区间

前面讨论的区间估计问题，其置信区间都有两个有限的端点，这样的置信区间称为双侧置信区间。

在有些实际问题中，我们常常关心的是未知参数至少有多大（例如设备、元件的使用寿命等），或者是未知参数至多是多少（例如产品的不合格品率、杂质含量等），这就引出了只有一个有限端点的单侧置信区间概念。是来自某个总体的样本，定义设

总体分布包含未知参数q

．是q的估计量．如果对q的一切可