浙大概率论与数理统计课件第七章参数估计概率论课件

统计方法描述统计推断统计参数估计假设检验统计方法描述统计推断统计参数估计假设检验第七章、参数估计第一节：点估计第三节：估计量的评选标准第四节：区间估计第五节：正太总体均值与方差的区间估计第六节：（0—1）分布参数的区间估计第七节：单侧置信区间第七章、参数估计第一节：点估计现在我们来介绍一类重要的统计推断问题:参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数.参数估计估计废品率估计湖中鱼数估计平均降雨量现在我们来介绍一类重要的统计推断问题:参数估计估计废品率估计参数估计点估计区间估计在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数.参数估计点估计区间估计在参数估计问题中，假定总体分布形式已知第一节点估计一、点估计问题的提法二、估计量的求法三、估计量的评选标准第一节点估计一、点估计问题的提法二、估计量的求法三设总体X的分布函数形式已知,是待估参数,是X的一个样本，是相应的一个样本值.一、点估计问题的提法设总体X的分布函数形式已知,解例1解例1二、估计量的求法由于估计量是样本的函数,是随机变量,故对不同的样本值,得到的参数值往往不同,求估计量的问题是关键问题.估计量的求法:(两种)矩估计法和最大似然估计法.二、估计量的求法由于估计量是样本的函数,是1.

矩估计法

它是基于一种简单的“替换”思想建立起来的一种估计方法.是英国统计学家K.皮尔逊最早提出的.其基本思想是用样本矩估计总体矩.

理论依据:

大数定律1.矩估计法它是基于一种简单的“替换”思想建其中为未知参数，现在从总体X中抽取样本

.

由辛钦大数定律设总体X的分布函数为可以推广为，其中为未知参数，现在从总体X中抽取样本设X1,X2,…,Xn

来自总体X的样本记总体k阶矩为样本k阶矩为

用样本矩来估计总体矩,用样本矩的连续函数来估计总体矩的连续函数,从而得出参数估计，这种估计法称为矩估计法.记总体k阶中心矩为样本k阶中心矩为设X1,X2,…,Xn来自总体X的样本记总体k阶矩估计法的具体步骤:(4)用方程组的解分别作为的估计量，这种估计量称为矩估计量.矩估计量的观察值称为矩估计值.矩估计法的具体步骤:(4)用方程组的解解例2解例2解方程组得到a,b的矩估计量分别为解方程组得到a,b的矩估计量分别为解解方程组得到矩估计量分别为例3解解方程组得到矩估计量分别为例3上例表明:总体均值与方差的矩估计量的表达式，不因不同的总体分布而异.矩法的优点是简单易行.缺点是，当总体类型已知时，没有充分利用分布提供的信息.一般场合下,矩估计量不具有唯一性.上例表明:总体均值与方差的矩估计量的表达式，不因不同2.最大（极大）似然估计法

最大似然法是在总体类型已知条件下使用的一种参数估计方法.

它首先是由德国数学家高斯在1821年提出的.然而，这个方法常归功于英国统计学家费歇.费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质.GaussFisher

Fisher2.最大（极大）似然估计法最大似然法是在总极大似然法的基本思想：一只野兔从前方窜过.是谁打中的呢？某位同学与一位猎人一起外出打猎.如果要你推测，你会如何想呢?只听一声枪响，野兔应声倒下.极大似然法的基本思想：一只野兔从前方窜过.是谁打中的呢？你就会想，猎人命中的概率一般大于这位同学命中的概率.看来这一枪是猎人射中的.这个例子所作的推断已经体现了极大似然法的基本思想.你就会想，猎人命中的概率一般大于这位同学命设有外形完全相同的两个箱子,甲箱有99个白球1个黑球,乙箱有1个白球99个黑球.今随机地抽取一箱,然后再从这箱中任取一球,结果发现是白球.问这球是从哪一个箱子中取出的?分析导致结果是白球的原因有两个,一个是这球从甲箱取的,另一个就是这球从乙箱取的.如果是从甲箱取的,则取得白球的概率为99%;如果是从乙箱取的,则取得白球的概率为1%,由此看到,这球是从甲箱中取出的概率比从乙箱中取出的概率要大得多,因此很自然的,我们认为结论“这球是从甲箱中取出的”比结论“这球是从乙箱中取出的”要合理得多.最后我们作出推断,这球是从甲箱取出的.设有外形完全相同的两个箱子,甲箱有99个白球1个黑球,20最大似然估计法，是建立在最大似然原理的基础上的求点估计量的方法。最大似然原理的直观想法是：在试验中概率最大的事件最有可能出现。例如，一个试验如有若干个可能的结果，若在一次试验中，结果A出现，则一般认为A出现的概率最大。

最大似然估计法，是建立在最大似然原理的基础上的求点估计量的方

极大似然估计法：当给定样本X1,X2,…Xn时，定义似然函数为：这里x1,x2,…,xn是样本的观察值.看作参数的函数，它可作为将以多大可能产生样本值x1,x2,…,xn的一种度量.选择,使达到最大值.

极大似然估计法：当给定样本X1,X2,…Xn时，定22若总体X属离散型,其分布律为,当给定样本值分布律为似然函数形式已知,θ为待估参数,是总体X的一个样本，则样本的它是的函数,称为样本的似然函数.的概率为后,则样本取到观察值若总体X属离散型,其分布律为,当给定样本值分布律为似然函若总体X属连续型,其概率密度函数为形式已知,θ为待估参数,是总体X的一个样本，则的联合,设密度为是相应于样本的一个样本值,则的邻域内的概率近似为落在点因不随而变，故只需考虑若总体X属连续型,其概率密度函数为形式已知,θ为待估参数若则称为的最大似然估计值.

替换成样为参数的最大似然估计量.

若将上式中样本值,则得本称称为似然方程为最大似然估计的必要条件为

因此，由于与在同一处达到最大值，若则称为的最大似然估计值.替换成样为参数的最大似求最大似然估计量的一般步骤为：

（1）求似然函数（2）一般地，求出及似然方程

（3）解似然方程得到最大似然估计值

（4）最后得到最大似然估计量

求最大似然估计量的一般步骤为：（1）求似然函数（2）一般地解似然函数例4解似然函数例4这一估计量与矩估计量是相同的.这一估计量与矩估计量是相同的.解X的似然函数为例5解X的似然函数为例5浙大概率论与数理统计课件第七章参数估计概率论ppt课件它们与相应的矩估计量相同.它们与相应的矩估计量相同.解例6解例6浙大概率论与数理统计课件第七章参数估计概率论ppt课件说明：用求导方法求参数的最大似然估计有时行不通，这时要用极大似然原则来求.说明：用求导方法求参数的最大似然估计有时行不通，这时要用极大小结两种求点估计的方法:矩估计法最大似然估计法在统计问题中往往先使用最大似然估计法,在最大似然估计法使用不方便时,再用矩估计法.小结两种求点估计的方法:矩估计法最大似然估计法在统计问题中往费希尔资料RonaldAylmerFisherBorn:17Feb1890inLondon,England

Died:29July1962inAdelaide,Australia费希尔资料RonaldAylmerFisherBorn:第三节估计量的评价标准一、无偏性二、有效性三、相合性第三节估计量的评价标准一、无偏性问题的提出从前一节可以看到,对于同一个参数,用不同的估计方法求出的估计量可能不相同,那么那一个估计量好？好坏的标准是什么?下面介绍几个常用标准.问题的提出从前一节可以看到,对于同一个参数一、无偏性（无偏估计）无偏估计的实际意义:无系统误差.无偏性是对估计量的一个常见而重要的要求.一、无偏性（无偏估计）无偏估计的实际意义:无系统误差.无证例1证例1特别地:不论总体X服从什么分布,只要它的数学期望存在,特别地:不论总体X服从什么分布,只要它的数学期望存在,证例2证例2由以上两例可知,同一个参数可以有不同的无偏估计量.具有概率密度由以上两例可知,同一个参数可以有不同的无偏估计量.具

无偏性虽然是评价估计量的一个重要标准，而且在许多场合是合理的、必要的。然而，有时一个参数的无偏估计可能不存在或者不合理。于是，人们又在无偏性的基础上增加了对方差的要求。若估计量的方差越小。表明该估计量的取值（即估计值）围绕着待估参数的波动就越小，也就是更为理想的估计量。为此，引入最小方差无偏计。无偏性虽然是评价估计量的一个重要标准，而且在许设二、有效性（最小方差无偏估计）由于方差是随机变量取值与其数学期望的偏离程度,所以无偏估计以方差小者为好.都是的无偏估计量，若有，则称比有效.设二、有效性（最小方差无偏估计）由于方差是随机证明例3

(续例2)证明例3(续例2)说明最小方差无偏估计是一种最优估计.定义说明最小方差无偏估计是一种最优估计.定义有时候我们不仅要求估计量有较小的方差，还希望当样本容量n充分大时，估计量能在某种意义下收敛于被估计参数，这就是所谓相合性（或一致性）概念。

定义

设是未知参数估计序列，如果依概率收敛于，即对任有三、相合性（相合估计）或则称是的相合估计量（或一致估计）。有时候我们不仅要求估计量有较小的方差，还希望当定理

设是的一个估计量，若则是的相合估计（或一致估计）。证明：由于且令且由定理的假设，得

即是的相合估计定理设是的一个估计量，若则是小结估计量的评选的三个标准无偏估计最小方差无偏估计相合估计相合性是对估计量的一个基本要求,不具备相合性的估计量是不予以考虑的.由最大似然估计法得到的估计量,在一定条件下也具有相合性.估计量的相合性只有当样本容量相当大时,才能显示出优越性,这在实际中往往难以做到,因此,在工程中往往使用无偏性和有效性这两个标准.小结估计量的评选的三个标准无偏估计最小方差无偏估计相合估计第四节区间估计一、区间估计基本概念二、正态总体均值与方差的区间估计第四节区间估计一、区间估计基本概念二、正态总体均值与方引言

前面，我们讨论了参数点估计.它是用样本算得的一个值去估计未知参数.但是，点估计值仅仅是未知参数的一个近似值，它没有反映出这个近似值的误差范围，使用起来把握不大.区间估计正好弥补了点估计的这个缺陷.引言前面，我们讨论了参数点估计.它是用样一、区间估计基本概念1.置信区间的定义一、区间估计基本概念1.置信区间的定义关于定义的说明义达质关于定义的说明义达质例如例如这里有两个要求:由定义可见，

对参数作区间估计，就是要设法找出两个只依赖于样本的界限(构造统计量)

一旦有了样本，就把估计在区间内.这里有两个要求:由定义可见，对参数作区即要求估计尽量可靠.内，就是说，概率要尽可能大.1.要求以很大的可能被包含在区间2.估计的精度要尽可能的高.如要求区间长度尽可能短，或能体现该要求的其它准则.可靠度与精度是一对矛盾，一般是在保证可靠度的条件下尽可能提高精度.即要求估计尽量可靠.内，就是说，概率2.

求置信区间的一般步骤(共3步)2.求置信区间的一般步骤(共3步)浙大概率论与数理统计课件第七章参数估计概率论ppt课件二、正态总体均值与方差的区间估计1.I单个总体的情况二、正态总体均值与方差的区间估计1.I单个总体的情况推导过程如下:推导过程如下:浙大概率论与数理统计课件第七章参数估计概率论ppt课件这样的置信区间常写成其置信区间的长度为这样的置信区间常写成其置信区间的长度为包糖机某日开工包了12包糖,称得重量(单位:克)分别为506,500,495,488,504,486,505,513,521,520,512,485.假设重量服从正态分布,解附表2-1例1包糖机某日开工包了12包糖,称得重量(单位:克)分浙大概率论与数理统计课件第七章参数估计概率论ppt课件附表2-2查表得附表2-2查表得推导过程如下:考虑是的无偏估计，可用替换推导过程如下:考虑是的无偏估计，可用浙大概率论与数理统计课件第七章参数估计概率论ppt课件有一大批糖果,现从中随机地取16袋,称得重量(克)如下:设袋装糖果的重量服从正态分布,试求总体均值解附表3-1例2有一大批糖果,现从中随机地取16袋,称得就是说估计袋装糖果重量的均值在500.4克与507.1克之间,这个估计的可信程度为95%.这个误差的可信度为95%.就是说估计袋装糖果重量的均值在500.4克与507.1克之间解附表3-2例3(续例1)如果只假设糖包的重量服从正态分布解附表3-2例3(续例1)如果只假设糖包的重量服从正态分布推导过程如下:又知II.因为是的无偏估计推导过程如下:又知II.因为是的无偏估计浙大概率论与数理统计课件第七章参数估计概率论ppt课件进一步可得:注意:在密度函数不对称时,习惯上仍取对称的分位点来确定置信区间(如图).进一步可得:注意:在密度函数不对称时,习惯上仍取对称的分解代入公式得标准差的置信区间附表4-1

(续例2)

求例2中总体标准差

的置信度为0.95的置信区间.附表4-2例4解代入公式得标准差的置信区间附表4-1(续例2)2、两个总体的情况讨论两个总体均值差和方差比的估计问题.2、两个总体推导过程如下:I.推导过程如下:I.浙大概率论与数理统计课件第七章参数估计概率论ppt课件浙大概率论与数理统计课件第七章参数估计概率论ppt课件浙大概率论与数理统计课件第七章参数估计概率论ppt课件例6机床厂某日从两台机床加工的零件中,分别抽取若干个样品,测得零件尺寸分别如下(单位:cm):

第一台机器6.2,5.7,6.5,6.0,6.3,5.85.7,6.0,6.0,5.8,6.0

第二台机器5.6,5.9,5.6,5.7,5.86.0,5.5,5.7,5.5假设两台机器加工的零件尺寸均服从正态分布,且方差相等,试求两机床加工的零件平均尺寸之差的区间估计例6机床厂某日从两台机床加工的零件中,分别抽取若干个样品,测解用X表示第一台机床加工的零件尺寸,用Y表示第二台机床加工的零件尺寸,由题设经计算，得解用X表示第一台机床加工的零件尺寸,用Y表示第二置信下限置信上限故所求的置信度为95%的置信区间为[0.0912,0.5088].置信下限置信上限故所求的置信度为9