《概率论与数理统计》课件第七章 参数估计

第七章参数估计7.1点估计7.2估计量的评选标准7.3区间估计假设检验问题区间估计矩估计法最大似然估计法参数估计是统计推断的基本问题之一统计推断的基本问题01总体分布函数的形式为已知,估计其一个或多个未知参数（如何估计？）估计问题02参数估计要解决的问题:点估计03二、矩估计法7.1点估计添加标题点估计问题的思想方法添加标题最大似然估计法添加标题一、点估计问题的思想方法设总体X的分布函数的形式已知,但含有一个或多个未知参数：1,2,,k设

X1,X2,…,Xn为总体的一个样本构造k个统计量：随机变量当测得样本值(x1,x2,…,xn)时,代入上述统计量，即可得到k个数：数值如何构造统计量？如何评价估计量的优劣？称数为未知参数的估计值对应统计量为未知参数的估计量.问题对未知参数估计的两种方法:矩估计法是用样本矩估计总体矩.英国统计学家K.皮尔逊最早提出的.矩估计法、最大似然估计法。二、矩估计法单击此处添加正文，文字是您思想的提炼，为了演示发布的良好效果，请言简意赅地阐述您的观点。您的内容已经简明扼要，字字珠玑，但信息却千丝万缕、错综复杂，需要用更多的文字来表述；但请您尽可能提炼思想的精髓，否则容易造成观者的阅读压力，适得其反。正如我们都希望改变世界，希望给别人带去光明，但更多时候我们只需要播下一颗种子，自然有微风吹拂，雨露滋养。恰如其分地表达观点，往往事半功倍。当您的内容到达这个限度时，或许已经不纯粹作用于演示，极大可能运用于阅读领域；无论是传播观点、知识分享还是汇报工作，内容的详尽固然重要，但请一定注意信息框架的清晰，这样才能使内容层次分明，页面简洁易读。如果您的内容确实非常重要又难以精简，也请使用分段处理，对内容进行简单的梳理和提炼，这样会使逻辑框架相对清晰。矩估计法是用样本矩估计总体矩.单击此处添加正文，文字是您思想的提炼，为了演示发布的良好效果，请言简意赅地阐述您的观点。您的内容已经简明扼要，字字珠玑，但信息却千丝万缕、错综复杂，需要用更多的文字来表述；但请您尽可能提炼思想的精髓，否则容易造成观者的阅读压力，适得其反。正如我们都希望改变世界，希望给别人带去光明，但更多时候我们只需要播下一颗种子，自然有微风吹拂，雨露滋养。恰如其分地表达观点，往往事半功倍。当您的内容到达这个限度时，或许已经不纯粹作用于演示，极大可能运用于阅读领域；无论是传播观点、知识分享还是汇报工作，内容的详尽固然重要，但请一定注意信息框架的清晰，这样才能使内容层次分明，页面简洁易读。如果您的内容确实非常重要又难以精简，也请使用分段处理，对内容进行简单的梳理和提炼，这样会使逻辑框架相对清晰。英国统计学家K.皮尔逊最早提出的.单击此处添加正文，文字是您思想的提炼，为了演示发布的良好效果，请言简意赅地阐述您的观点。您的内容已经简明扼要，字字珠玑，但信息却千丝万缕、错综复杂，需要用更多的文字来表述；但请您尽可能提炼思想的精髓，否则容易造成观者的阅读压力，适得其反。正如我们都希望改变世界，希望给别人带去光明，但更多时候我们只需要播下一颗种子，自然有微风吹拂，雨露滋养。恰如其分地表达观点，往往事半功倍。当您的内容到达这个限度时，或许已经不纯粹作用于演示，极大可能运用于阅读领域；无论是传播观点、知识分享还是汇报工作，内容的详尽固然重要，但请一定注意信息框架的清晰，这样才能使内容层次分明，页面简洁易读。如果您的内容确实非常重要又难以精简，也请使用分段处理，对内容进行简单的梳理和提炼，这样会使逻辑框架相对清晰。矩估计法、最大似然估计法。命题：若总体X的k阶矩存在，则01证明02因为样本03相互独立且与总04体X服从相同的分布.则05也相互06独立且与07服从相同的分布.08由辛钦定理09即10若X为离散型随机变量，设其分布律为01令02，其中03为样本，04为样本值，05解出06基本思想：令07例1设总体X的分布律为01020304其中参数解令其中05试求θ的矩估计值.未知，现有X的一组样本值所以θ的矩估计值为1,1,1,3,2,1,3,2,2,1,2,2,3,1,1,20601添加标题若X为连续型随机变量，设概率密度为02添加标题令03添加标题，其中04添加标题为样本，05添加标题为样本值，06添加标题解出01例2设总体05解令04的矩估计量.02为X的一个样03本，求06其中07所以λ的矩估计量为添加标题是未知参数,添加标题例3设总体X的概率密度为添加标题解添加标题其中添加标题X1,X2,…,Xn是取自X的样本,求参数α的矩估计量.CBA令，则从而α的矩估计量为X的一个样本，求的矩估计量.例4设总体解令令为X的一个样本，求X的数例5设的矩估计量.学期望其中令则解解得数学期望的矩估计量分别为01添加标题总结：任何分布的均值和方差的矩估计量的表02添加标题达式都不变.03添加标题例6设总体一个样本，求的矩估计量.为X的解由所以由上例可得三、最大似然估计法最大似然估计法这是在总体类型已知条件下使用的一种参数估计方法.它首先是由德国数学家高斯在1821年提出的,然而，这个方法常归功于英国统计学家费歇.费歇在1922年重新发现了这一方法,并首先研究了这种方法的一些性质.GaussFisher1最大似然估计法基本思想2例如:有两外形相同的箱子,各装100个球甲箱99个白球1个红球乙箱1个白球99个红球3现从两箱中任取一箱,并从箱中任取一球,结果所取得的球是白球.4答:甲箱.5问:所取的球来自哪一箱？最大似然法的基本思想兔子是谁打中的呢？推测最大似然法的基本思想01认为该事件发生的概率最大.即：在一次抽样中，某事件发生了，可以02只做一次试验就出现的事件有最大的概率.实际推断原理：X的分布律为，其中θ未知.为X的样本，为X的样本值，称为似然函数.当时，称为θ的最大似然估计量；为θ的最大似然估计值.表示取到样本值的概率⑴X为离散型具体算法：注意到,lnL()是L的单调增函数,故若某个使lnL()最大,则这个必使L()最大。两边取对数令令例1设总体X服从0-1分布,且P(X=1)=p,用最大似然法求p的估计值.添加标题解添加标题总体X的概率分布为添加标题设x1,x2,…,xn为总体样本X1,X2,…,Xn的样本值,添加标题则添加标题对于不同的p,L(p)不同,见右下图现经过一次试验，发生了，事件则p的取值应使这个事件发生的概率最大.在容许范围内选择p，使L(p)最大.所以为所求p的估计值.设X1,X2,…,Xn是取自总体X的一个样本,解例2A单击此处添加正文，文字是您思想的提炼，请尽量言简意赅地阐述观点。，求参数λ的最大似然估计量.B，求参数λ的最大似然估计量.似然函数为:⑵X为连续型即取的最大值.落在点的01思想：随机点邻域内的概率近似地为02邻域内的概率近似地为单击此处添加正文。Xi的概率密度为01，其中θ未知.02所以似然函数为03求极大值04或05得设X1,X2,…,Xn是取自总体X

的一个样本,，求参数λ的最大似然估计值.解似然函数例3当令所以例4解设X1,X2,…,Xn是取自总体X的一个样本,单击此处添加正文，文字是您思想的提炼，为了演示发布的良好效果，请言简意赅地阐述您的观点。，求参数设X1,X2,…,Xn是取自总体X的一个样本,的最大似然估计值.的最大似然估计值.单击此处添加正文，文字是您思想的提炼，为了演示发布的良好效果，请言简意赅地阐述您的观点。所以令的最大似然估计值为添加标题例5添加标题解添加标题设X1,X2,…,Xn是取自总体X的一个样本,添加标题似然函数添加标题，求参数a,b的最大似然估计值.添加标题所以所以取最大值01注：特殊的似然函数通过求导得不到其最大，需要用其它的方法.则要使得02单击此处添加正文，文字是您思想的提炼，为了演示发布的良好效果，请言简意赅地阐述您的观点。注：特殊的似然函数通过求导得不到其最大，03单击此处添加正文，文字是您思想的提炼，为了演示发布的良好效果，请言简意赅地阐述您的观点。需要用其它的方法.设X1,X2,…,Xn是取自总体X

的一个样本,求⑴参数θ和μ的矩估计量；⑵参数θ和μ的最大似然估计量.解⑴令例6所以设x1,x2,…,xn是X1,X2,…,Xn的样本值，则似然函数为其中解得参数θ和μ的矩估计量为2时3令1当6，故5，表明L是μ的严格递增函数，又4第二个似然方程求不出θ的估计值，观察添加标题所以当01添加标题从而参数θ和μ的最大似然估计值分别为03添加标题时L取到最大值02添加标题则参数θ和μ的最大似然估计量分别为0401问题添加标题02待估参数的极大似然估计是否一定存在?添加标题03若存在,是否惟一?添加标题1设X~U[a–½,a+½]，x1,x2,…,xn是X的一个样本,求a的极大似然估计值.2解3由上例可知,当4时,L取最大值1,即5显然,a的极大似然估计值可能不存在,也可能不惟一.6例6对于同一个未知参数,不同的方法得到的估计量可能不同,于是提出问题应该选用哪一种估计量?用何标准来评价一个估计量的好坏?常用标准(1)无偏性(3)一致性(2)有效性7.2估计量的评选标准无偏性一致性有效性一、无偏性定义1设是未知参数θ的估计量添加标题存在，且对任意的θ，有则称添加标题为θ的无偏估计.添加标题无偏性的实际意义是指没有系统偏差添加标题我们不可能要求每一次由样本得到的估计值与真添加标题值都相等，但可以要求这些估计值的期望与真值相等.添加标题定义的合理性添加标题例1设是取自总体X的一个样本，添加标题X的k阶矩添加标题存在，试证明添加标题不论总体服从什么分布，k阶样本矩Ak是μk的无偏估计.添加标题证明添加标题则添加标题所以添加标题阶样本矩添加标题无偏估计.注意:无论X服从什么分布,只要它的数学期望添加标题01单击此处添加小标题总是03单击此处添加小标题存在，02单击此处添加小标题的无偏估计量.04设总体X

的则都存在，且的估计量都未知,是无偏的吗?证明例2注意不是的无偏估计，而所以是的无偏估计（不论总体服从什么分布）所以一般都取是的估计量.所以不是的无偏估计量.设X1,X2,…,Xn是取自总体X

的一个样本,⑴求k使为的无偏估计.⑵求l使为的无偏估计.解

⑴例3故当时结论成立.由于求l使为的无偏估计.故当时结论成立,一个未知数可以有不同的无偏估计量.解例4二、有效性的大小来决定二者谁更优.01和02一个参数往往有不止一个无偏估计,若03和04都是参数的无偏估计量，05我们通过可以比较06由于07定义2设08都是参数θ的无偏估计量，若有09则称有效.10比11例4设X1,X2,…,Xn是X的一个样本,添加标题问那个估计量最有效?添加标题解⑴添加标题由于添加标题验证添加标题都是添加标题的无偏估计.都是总体均值的无偏估计量.故DCABP2P1因为所以P3更有效.例5设总体X的概率密度为01为常数06证明05是的无偏估计量.02为X的一个样本.04证07与10估计量09的无偏03故08都是令即故nZ是的无偏估计量.添加标题添加标题添加标题添加标题添加标题添加标题定义3设若对于任意θ∈Θ,当则称的一致（或相合）估计量.为参数θ的估计量，（了解）一致性估计量仅在样本容量n足够大时,才显示其优越性.关于一致性的两个常用结论1.样本k阶矩是总体k

阶矩的一致性估计量.是的一致估计量.由大数定律证明用切比雪夫不等式证明矩法得到的估计量一般为一致估计量在一定条件下,极大似然估计具有一致性2.设是

的无偏估计量,且,则添加标题例601添加标题为常数02添加标题则是的无偏、有效、一致估计量.03添加标题证由例5知是的无偏、有效估计量.04添加标题所以是的一致估计量,证毕.05一、置信区间7.3区间估计正态总体均值的区间估计添加标题添加标题引言是多少？(2)估计值与参数真实值的偏离程度（误差范围）03所谓参数点估计.它是指用样本算得的一个值去估计未知参数.(1)估计值是否为待估参数的真实值？02单击此处添加正文，文字是您思想的提炼，为了演示发布的良好效果，请言简意赅地阐述您的观点。所谓参数点估计.它是指用样本算得的一个值去估计未知参数.01江苏灌南水稻迎来大丰收江苏粮网2018年10月27日：金秋十月，江苏灌南县水稻已进入成熟期。今年该地水稻种植面积稳定，品种优良，水稻亩产量约1020公斤左右，比去年增加20-50公斤，全县52万多亩水稻将迎来又一个丰收年.徐州日报讯2018年6月9日：铜山区政府有关负责人告诉记者：“今年的气候特别适合山区小麦生长，预计山区增产幅度较大。全县小麦单产预计可达697公斤左右，比去年增加约8公斤.小麦产量增加全景网2018年11月15日讯：创业板新股三丰智能（300276）今日上市，银河证券预计首日上市价格为12.1-33.6元，涨幅12.94%-31.76%.股价预报若我们能给出一个区间，并且能以比较高的把握相信该区间包含真实参数值，这样对真实值的估计就有把握多了.添加标题参数真实值添加标题（）添加标题一、置信区间的定义满足设是一个待估参数，给定X1,X2,…,Xn确定的两个统计量若由样本和分别称为置信下限和置信上限.则称区间是的置信水平（置信度)为的置信区间.a称显著性水平，通常取值为0.1，0.05，0.01等.注：定义的两点说明1－a是置信度（置信水平）反映了区间估计的可靠程度.()()()θ（1）随机区间以的概率包含着待估参数的真实值.即置信度为我们重复抽样10次,则在得到的10个区间中包含真值的有9个左右,不包含真值的有1个左右.例如若通常,采用95%的置信度,有时也取99%或90%.现假定上式化为若取，则，这里用它来说明置信区间的含义。μ的置信水平为1-α的置信区间为例3设是来自的样本，则1我们用随机模拟方法由N(15,4)产生一个容量为10的样本，如下即是这样一个样本：285，13.01，13.50，14.93，16.97，13.80，17.9533，13.37，16.29，12.383由该样本可以算得4从而得到的一个区间估计为5取，我们用随机模拟方法由N(15,4)产生100个容量为10的样本，也就得到100个区间，我们将这100个区间画在下图上：由图可以统计出，100个区间中包含真实值15的有91个区间，另外不包含参数真值有9个.由图可以统计出，100个区间中包含真实值15的有91个区间，另外不包含参数真值有9个.取，我们也可以给出100个区间，见下图，可以统计出，这100个区间中有50个包含参数真值15，另外50个不包含参数真值.1希望精确度与置信度均高,但二者是矛盾的.2在实际应用中广泛接受的原则是：3保证可靠程度的前提下,尽量提高精确度.4精确度5置信度6随机区间的长度是随机变量，置信区间的平均长度反映了区间估计的精确程度.~N(0,1)明确问题,是求什么参数的置信区间?置信水平是多少？寻找未知参数的一个良好估计.选的点估计为,解寻找一个待估参数和统计量的函数，要求其分布为已知.有了分布，就可以求出U取值于任意区间的概率.二、正态总体均值区间估计设为总体的一个样本，置信度下，来确定的置信区间⑴已知方差，估计均值寻找a,b，使得对给定的置信水平若，例如寻找a,b，使得我们得到即均值的置信水平为0.95的置信区间为区间长度02单击此处添加正文，文字是您思想的提炼，为了演示发布的良好效果，请言简意赅地阐述您的观点。均值的置信水平为0.95的置信区间为01单击此处添加正文，文字是您思想的提炼，为了演示发布的良好效果，请言简意赅地阐述您的观点。均值的置信水平为0.95的置信区间为02均值的置信水平为0.95的置信区间为我们得到01显然这个区间比前面一个要长一些.由区间长度类似地，我们可得到若干个不同的置信区间.我们总是希望置信区间尽可能短.注：在概率密度为单峰且对称的情形，当a=-b时求得的置信区间的长度为最短.1简记为所以的置信水平为的置信区间为区间估计方法总结：（1）寻找参数的一个良好的点估计（2）寻找一个待估参数和估计量T的函数且其分布为已知.并且不能含有任何其它未知参数。（3）对于给定的置信水平，根据的分布，确定常数a,b，使得于是就是的置信度为的置信区间.（4）

对“

”作等价变形，得到如下形式:而这与总体分布有关，所以，总体分布的形式是否已知，是怎样的类型，至关重要.可见，确定区间估计很关键的是要寻找一个待估参数和估计量T的函数S(T,),且S(T,)的分布为已知,不依赖于任何其它未知参数.寻找一个样本的函数它含有待估参数,不含其它未知参数,它的分布已知,且分布不依赖于待估参数(常由的点估计出发考虑

).例如求置信区间的步骤—称为枢轴量取枢轴量给定置信度1,定出常数a,b,使得(引例中01由02解出03得置信区间04引例中05已知幼儿身高服从正态分布，现从5~6岁的幼儿中随机地抽查了9人，其高度分别为：115,120131,115,109,115,115,105,110cm；假设标准差置信度为95%;试求总体均值μ的置信区间.解已知由样本值算得：查正态分布表得，由此得置信区间例1而选取样本函数：对于给定的查t分布表，得临界值使由前面分析知道，选取对称区间，区间长度最短.可用样本方差：⑵

方差未知，估计均值因为是的无偏估计.即简记为01所以μ置信水平为1-α的置信区间为由t分布表可以查出02单击此处添加正文，文字是您思想的提炼，请尽量言简意赅地阐述观点。所以μ置信水平为1-α的置信区间为用仪器测量温度,重复测量7次,测得温度分别为：115,120,131,115,109,115,115；设温度在置信度为95%时,试求温度真值所在范围.查表得已知由样本值算得：解设μ是温度的真值，X是测量值得区间：例2对某种型号飞机的飞行速度进行15次试验,测得最大飞行速度(单位:米/秒)为:422.2,417.2,425.6，420.3,425.8,423.1,418.7,438.3434.0,412.3,431.5，413.5,441.3,423.0,428.2根据长期经验,可以认为最大飞行速度服从正态分布.求飞机最大飞行速度的期望值的置信水平为0.95的置信区间.解以X表示该飞机的最大飞行速度,则例3DCBA查表得由于总体方差未知