第一节点估计

第一节点估计第一页，共三十四页，编辑于2023年，星期四

利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数.估计废品率：估计新生儿的体重：估计湖中鱼数……估计降雨量在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数.

参数估计问题:

例如：第二页，共三十四页，编辑于2023年，星期四这类问题称为参数估计.参数估计问题的一般提法X1,X2,…,Xn其中为未知参数(可以是向量)。现从该设有一个总体X，总体的分布函数为总体抽样，得样本：所研究的问题是：要依据该样本对参数作出估计，或估计的某个已知的函数参数估计问题的分类参数估计点估计区间估计第三页，共三十四页，编辑于2023年，星期四则估计为1.68，这是点估计问题。估计在区间[1.57,1.84]内，这是

区间估计问题现要估计某班男生的平均身高。假定身高服从正态分布现从该总体选取容量为5的样本，所研究的问题是要根据选出的样本（5个数）求出总体均值的估计。例如

而全部信息就由这5个数组成。设这5个数是：1.65，1.67，1.68，1.78，1.69第四页，共三十四页，编辑于2023年，星期四解决问题：总体X的分布函数的形式已知，但它的一个或多个参数未知，根据总体X的一个样本来估计总体未知参数或对总体未知参数作出一个估计。一.估计量的定义定义：第一节点估计称为的估计量。设为总体X的分布函数中的待估计的参数,是总体X的一个样本，用构成的一个统计量：第五页，共三十四页，编辑于2023年，星期四则为的估计值

二.构造统计量的方法1.矩估计法(数字特征法)用样本的各阶矩来估计总体的各阶矩的一组样本值为：如果矩估计法是由统计学家卡.皮尔逊（K.Pearson）在19世纪末引入的。矩是描写随机变量最简单的数字特征，由大数定律可知，在一定条件下可以用样本的矩作为总体矩的估计，从而得矩估计法的基本思想为：第六页，共三十四页，编辑于2023年，星期四矩估计法的具体步骤设总体X的分布函数中含有个未知参数，假定总体X的前阶矩存在，则可通过下列步骤求未知参数的矩估计量(1)若总体X是离散型随机变量，其分布律为：求总体X的前阶矩则：若总体X是连续型随机变量，其密度函数为：第七页，共三十四页，编辑于2023年，星期四则：总之，是参数的函数，记为：第八页，共三十四页，编辑于2023年，星期四(2)解（*）式解出得到：(3)用的估计量分别代替（**）中的则得的矩估计量

第九页，共三十四页，编辑于2023年，星期四例1.设总体X的均值为方差为都存在，且是总体X的一个样本(2).当总体(某种灯泡寿命)，未知，今取4只灯泡，测得其寿命（小时）如下：1502,1453,1367,1650（小时）求：的矩估计量(1).均未知,求:的矩估计量第十页，共三十四页，编辑于2023年，星期四解:总体X的数学期望是X的一阶原点矩；总体X的方差是X的二阶中心矩。(1).现令：一阶原点矩二阶原点矩即解之得:第十一页，共三十四页，编辑于2023年，星期四解之得:从而得的矩估计量为：结论：不论总体服从什么分布，总体均值与方差的矩估计量的表达式是相同的。第十二页，共三十四页，编辑于2023年，星期四(2).某种灯泡寿命的均值与方差的矩估计值分布为:第十三页，共三十四页，编辑于2023年，星期四设X1,X2,…Xn是取自总体X的一个样本，其概率密度为：其中为未知参数，例2.求：的矩估计量由密度函数可知：具有均值为的指数分布，故有：解:第十四页，共三十四页，编辑于2023年，星期四即：令：用样本矩估计总体矩解得：即为总体参数的矩估计量。第十五页，共三十四页，编辑于2023年，星期四,故令解得的矩估计分别为例的样本,为总体设求未知参数的矩估计.解其中总体二阶中心矩样本二阶中心矩思考一从直观看该结果是否合理？从直观看更好的估计应该是什么？思考二第十六页，共三十四页，编辑于2023年，星期四

设为来自总体的样本，求未知参数的矩估计。总体一阶矩为样本一阶矩为令求得的矩估计为.解例如果都未知，怎样求的矩估计？思考第十七页，共三十四页，编辑于2023年，星期四2.极大似然法极大似然法是在总体类型已知条件下使用的一种参数估计方法。它首先是由德国数学家高斯（Gauss）在1821年提出的。Fisher然而，这个方法常归功于英国统计学家费歇（Fisher），费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质。Gauss第十八页，共三十四页，编辑于2023年，星期四极大似然法的基本思想引例1若某位同学与一位猎人一起外出打猎。一只野兔从前方窜过，只听一声枪响，野兔应声倒下。试推测：这是谁打中的呢？

因为只发一枪便打中，猎人命中的概率一般大于这位同学命中的概率。看来可推测这一枪是猎人射中的.第十九页，共三十四页，编辑于2023年，星期四引例2设X~B(1,p),p未知，若事先知道p只有两种可能:试问：应如何估计p?p=0.7或p=0.3如今重复试验3次,得结果:0,0,0由概率论的知识，可知：3次试验中出现“1”的次数k=0,1,2,3分析：且：现将这计算结果列出如下：第二十页，共三十四页，编辑于2023年，星期四将计算结果列表如下：p值 P(Y=0)P(Y=1)P(Y=2)P(Y=3)0.7 0.0270.189 0.441 0.3430.3 0.3430.441 0.189 0.027 出现估计出现出现出现估计估计估计0.3430.4410.4410.343注:引例1与引例2都体现了极大似然法的基本思想：当试验中得到一个结果时，应选择使得这个试验结果出现的概率达到最大的这个值作为参数的估计值。第二十一页，共三十四页，编辑于2023年，星期四定义:作似然函数：(1).极大似然估计量的定义是相应于样本的一组样本值。其中设总体X的概率密度函数为或分布律为为未知参数。又设使得似然函数L达到极大值的或第二十二页，共三十四页，编辑于2023年，星期四称为参数的极大似然估计值，记为：为参数的极大似然估计量注:或随机点取到的概率。(它与样本值有关)，记统计量：似然函数L是随机点落在点的邻域(边长分别为的n维立方体)内的概率；▲▲似然函数L是的函数。第二十三页，共三十四页，编辑于2023年，星期四思路:从而此问题就转化为一般的求函数的最大值问题.(2).极大似然法的具体步骤取到现要求的最大值，即求取什么值时函数L达到最大。即其随机点落在的邻域内的概率或随机点的概率最大。第二十四页，共三十四页，编辑于2023年，星期四具体步骤(1)作似然函数或(2)当似然函数可微且的最大值能在参数空间取得时，求方程组:的解，解得一解为，则为极大似然估计量（值）。注:▲因为与有相同的最大值点，而且对数函数是单调增的，求比求方便，所以常取前者作为似然函数。第二十五页，共三十四页，编辑于2023年，星期四▲按照求函数极值的方法，在求方程组：的解后还应该用极值的充分条件对解做进一步的判断，但又由最值原理，如果最值存在，此方程组求得的驻点即为所求的最值点。极大似然估计法一般属于这种情况，所以可直接按步骤(2)求的其值。▲当似然函数不可微或方程组无解时，则应根据定义直接寻求能使达到最大值的解作为极大似然估计量。▲极大似然估计法也适用于多个未知参数的情形。第二十六页，共三十四页，编辑于2023年，星期四例3.求:的极大似然估计量是X的一个样本值设为未知参数，解:的密度函数为：作似然函数：为计算方便对L两边取对数得:第二十七页，共三十四页，编辑于2023年，星期四令：解得所求为:与矩估计法所得的结论是一致的（见例1）第二十八页，共三十四页，编辑于2023年，星期四似然函数为设总体服从指数分布其密度为因为与有相同的极值点，故令解似然方程，求得的

MLE

为称为似然方程解例是来自总体的样本，试求的第二十九页，共三十四页，编辑于2023年，星期四例4.bujiang设为参数都是未知的正态总体的一个样本求:的极大似然估计解:未知第三十页，共三十四页，编辑于2023年，星期四由例2可知：的极大似然估计为的极大似然估计为的极大似然估计为：其中:设X1,X2,…Xn是取自总体X的一个样本，其密度函数为：其中求的极大似然估计.例5.第三十一页，共三十四页，编辑于2023年，星期四作似然函数：则对数似然函数为：求导