求点估计量的方法

求点估计量的方法第1页，课件共43页，创作于2023年2月注：统计学的模型仅仅是对现实的近似，没有任何模型是“正确”的，也无法证明任何模型是正确的。只能够说，在某些可能有争议的准则之下，某些模型比另外一些要更适合一些。——

吴喜之《统计学：从数据到结论》第2页，课件共43页，创作于2023年2月求解步骤：问题是什么解决问题的基本思路理论支持及推导解决的具体步骤实例分析第3页，课件共43页，创作于2023年2月第三章参数估计第一节求点估计量的方法第二节估计量的评选标准第三节区间估计第4页，课件共43页，创作于2023年2月参数的类型：参数是刻画总体某方面概率特性的数量.参数的类型有1、分布中所含的未知参数例如，X~N(,2),若,2未知,通过构造统计量,给出它们的估计值或取值范围就是参数估计的内容.区间估计点估计第5页，课件共43页，创作于2023年2月2、分布中所含的未知参数θ的函数g(θ)例如：X~N(,2),其中,2未知，假设X

是血液检验的结果，感兴趣的是检验值不超过a

的人数的比例，即要估计即为,的函数。3、分布的各种特征数例如：EX，VarX等。

第6页，课件共43页，创作于2023年2月

参数估计问题是利用从总体抽样得到的样本,通过估计量来估计上述各种参数。估计量就是估计总体参数的统计量.第7页，课件共43页，创作于2023年2月第一节求点估计量的方法一、矩法二、极大似然法第8页，课件共43页，创作于2023年2月一、矩法估计1、矩法估计（MomentEstimation)理论基础：大数定律（频率趋向于概率）相互独立，设随机变量序列它们服从相同的分布，且具有有限的数学期望：则第9页，课件共43页，创作于2023年2月

则独立同分布,

且有期望：则由大数定律，设是来自总体

X

的容量为n

的样本,

矩估计法指导思想用样本

k

阶矩作为总体

k

阶矩的估计量,建立含有待估参数的方程,从而解出待估参数。第10页，课件共43页，创作于2023年2月设待估计的参数为总体的

r（r≥k）阶矩存在，记为样本X1,X2,…,Xn的r阶矩为令——含未知参数1,2,,k的方程组具体步骤第11页，课件共43页，创作于2023年2月解方程组,得k

个统计量：

未知参数

1,,k

的矩估计量代入一组样本观测值得k个数:

未知参数

1,,k

的矩估计值第12页，课件共43页，创作于2023年2月例设总体X~Exp(),X1,X2,…,Xn为总体的样本,求的矩法估计量.解注能用低阶矩处理的就不用高阶矩。令故第13页，课件共43页，创作于2023年2月例设总体X~U(a,b),a,b未知,求参数a,b

的矩法估计量.解

令第14页，课件共43页，创作于2023年2月于是a,b的矩估计量为第15页，课件共43页，创作于2023年2月解

例3

设总体X的均值和方差都存在,未知.X1,X2,…Xn是来自X

的样本,试求的矩估计量.令第16页，课件共43页，创作于2023年2月注：该例表明无论总体X服从什么分布，只要总体的二阶矩存在，则样本均值就是总体均值的矩估计，样本的二阶中心矩就是总体方差的矩估计.第17页，课件共43页，创作于2023年2月矩估计三部曲求解总体矩（一般来说，有几个参数就求几阶矩，得到的一定是参数的函数）用样本矩代替总体矩建立方程（组）求解方程（组）第18页，课件共43页，创作于2023年2月优点是简单易行,并不需要事先知道总体的分布形式.缺点（1）要求总体相应原点矩必须存在，对于不存在原点矩的总体如Cauchy分布，则不能用矩估计。（2）当总体类型已知时，没有充分利用分布提供的信息，可以作为其它方法的初始值.矩法的优缺点：第19页，课件共43页，创作于2023年2月一只野兔从前方窜过。是谁打中的呢？引例：某位同学与一位猎人一起外出打猎。如果要你推测，你会如何想呢?只听两声枪响，野兔应声倒下。

二.极大似然估计（MaximumLikelihoodEstimation)第20页，课件共43页，创作于2023年2月

在一次随机试验中某一事件已经发生，则认为试验条件有利于该事件的发生，即在此条件下该事件发生的概率最大。

----------极大似然原理

常理来看，只发一枪便打中，猎人命中的概率要大于这位同学命中的概率。看来这一枪是猎人射中的。这个例子所作的推断体现了极大似然估计的基本思想：第21页，课件共43页，创作于2023年2月

下例说明如何求极大似然估计：例.

设X1,X2,…,Xn是取自总体X~b(1,p)的一个样本，利用极大似然原理求参数p(可以是产品的不合格率)的估计.似然函数解：抽取一个样本，得到观测值x1,x2,…,xn，则其发生的概率为第22页，课件共43页，创作于2023年2月显然p

的不同取值，对应的观测值发生的概率不同，由极大似然原理，应选择使得P(X1=x1,…Xn=xn)最大的p值，即为p

的极大似然估计值.第23页，课件共43页，创作于2023年2月∴对数似然函数为：

要求似然函数L(p)的最大值点，可以应用微积分中的技巧。通过求解下面的方程求得.第24页，课件共43页，创作于2023年2月对p求导并令其为0，=0得即为p

的极大似然估计值

.第25页，课件共43页，创作于2023年2月一般,设总体X为离散型随机变量,其分布律为则样本(X1,X2,…,Xn)

的概率分布为或称L()为样本的似然函数；似然函数反映了样本取到观察值的概率第26页，课件共43页，创作于2023年2月设X为连续型随机变量,其密度函数为p(x;θ)，则样本(X1,X2,…,Xn)

的联合密度为或称L()为样本的似然函数.似然函数反映了样本取到观察值的概率第27页，课件共43页，创作于2023年2月称这样得到的为参数的极大似然估计值；称统计量为参数的极大似然估计量.选择适当的=,使取最大值,即L()第28页，课件共43页，创作于2023年2月注1：求MLE时，只须在支撑上考虑.{x:p(x;θ)>0}叫做支撑.注2:若θ是k维向量,则构造k个统计量分别为相应参数分量的MLE.第29页，课件共43页，创作于2023年2月求MLE的方法：1、微分法若lnL(θ)是θ

的一个可微函数，通过求解方程：可以得到的MLE.

若是向量，上述方程必须用方程组代替.第30页，课件共43页，创作于2023年2月可得未知参数的极大似然估计值然后,再求得极大似然估计量.L是的可微函数,解对数似然方程组若第31页，课件共43页，创作于2023年2月例.

设总体X具有分布律X123pk其中θ(0<θ<1)为未知参数。已知取得了样本值x1=1，x2=2，x3＝1，试求θ的矩估计值和极大似然估计值。第32页，课件共43页，创作于2023年2月例设总体X~N(),未知.是来自X

的样本值,试求的极大似然估计量.似然函数为解：X的概率密度为于是第33页，课件共43页，创作于2023年2月令第34页，课件共43页，创作于2023年2月注:对于正态总体μ,σ2的矩估计与MLE是相同的.但对于其它很多分布,它们并不一样.

,2的极大似然估计量分别为第35页，课件共43页，创作于2023年2月2、用定义直接求当用上述求导方法求参数的MLE有时行不通(如似然函数不可微)，这时要用极大似然原理(即定义)来求.第36页，课件共43页，创作于2023年2月例设X1,X2,…Xn

是取自总体X~U(0,θ)

的一个样本求θ的极大似然估计和矩估计.用求导方法无法最终确定用定义直接来求.解:

当x1,x2,…,xn为样本值时，似然函数为第37页，课件共43页，创作于2023年2月

故θ的极大似然估计值为另一方面,由于EX=θ/2,故矩估计为两者不同!要使L(θ)达到最大，θ应最小，但它小不过x(n)，第38页，课件共43页，创作于2023年2月例设X~U(θ,θ+1),X1,X2,…,Xn是

X

的一个样本值,求θ

的极大似然估计.注:这里θ的极大似然估计不只唯一,可任取(x(n)-1,x(1))之间的任一个值.第39页，课件共43页，创作于2023年2月直接从函数形式出发极大似然估计的具体步骤：密度函数区间含有参数第40页，课件共43页，创作于2023年2月优点是充分利用总体分布的信息.缺点是很多情况下似然方程难以求解。极大似然法的优缺点：第41页，课件共43页，创作于2023年2月极大似然估计的性质----不变性.例设总体X~