概率论与数理统计 71(参数的点估计)

第7章参数估计7.1参数的点估计7.2参数的区间估计参数估计问题假设检验问题点估计区间估计统计推断

DE基本问题7-27.1.1点估计问题的一般提法定义7.1

设总体X的分布函数F(x；1，2，…，m)的形式已知，但其中含有一个或多个未知参数：1，2，，m，又设X1，X2，…，Xn为总体的一个样本，x1，x2，…，xn是样本观测值，构造的m个统计量：用的观测值作为未知参数i的近似值的方法称为点估计法．

7.1.1点估计问题的一般提法称为未知参数i的估计量，称为未知参数i的估计值．在不会混淆的情况下和均可称为i的估计.河南理工大学精品课程概率论与数理统计设已知总体X的可能分布函数族为:

理论根据:样本矩(的连续函数)依概率收敛于总体矩(的连续函数).其中为待估参数.二、构造估计量的两种方法

1、矩估计法

矩估计法:用样本矩(函数)来估计总体矩(函数).河南理工大学精品课程概率论与数理统计设总体X的前k阶矩均存在,而样本矩其中矩估计法就是:令总体的前k阶矩分别与样本的对应阶矩相等,即河南理工大学精品课程概率论与数理统计可作为待估参数的估计量(称为矩估计量),其观察值为待估参数的估计值(称为矩估计值).这是含k个待估参数的联立方程组，其解河南理工大学精品课程概率论与数理统计

确定待估参数的个数k,求出总体的前k阶矩;求矩估计的步骤

解方程(组)

写出矩估计量和矩估计值.因此,会求总体矩,记住样本矩,就可求出待估参数的矩估计量与矩估计值.河南理工大学精品课程概率论与数理统计

【例1】设总体X服从[a,b]上的均匀分布,求未知参数a,b的矩估计量.

〖解〗两个待估参数，连续型.先求总体的一,二阶(原点)矩.因为X∼U[a,b],所以由即河南理工大学精品课程概率论与数理统计解得:■河南理工大学精品课程概率论与数理统计

【例２】求正态总体N(μ,σ2)的两个未知参数μ,σ2的矩估计量.

〖解〗两个待估参数，连续型.先求总体的一,二阶(原点)矩.因为X∼N(μ,σ2),所以由河南理工大学精品课程概率论与数理统计.

即解得μ,σ2的矩估计量分别为:■样本二阶中心矩，非修正样本方差河南理工大学精品课程概率论与数理统计

【例３】求服从二项分布B(m，p)的总体X未知参数p的矩估计量。

〖解〗单参数，离散型.由因为所以总体X的一阶矩(期望)为即故所求矩估计量为：■河南理工大学精品课程概率论与数理统计

【例4】已知总体X的概率密度为:

〖解〗单参数，连续型.因为总体一阶矩

其中未知参数θ>0,求θ的矩估计量.由河南理工大学精品课程概率论与数理统计故所求矩估计量为：即解得:■河南理工大学精品课程概率论与数理统计

【例5】已知总体X的概率密度为:

〖解〗单参数，连续型.因为总体一阶矩

其中未知参数θ>0,求θ的矩估计量.不含θ，故不能由“样本一阶矩=总体一阶矩”解得所求矩估计，需要继续求二阶矩：河南理工大学精品课程概率论与数理统计

由“样本二阶矩=总体二阶矩”得：于是,所求矩估计量为：■Γ函数定义河南理工大学精品课程概率论与数理统计2、极大似然估计法

一位老猎人与他的徒弟一起打猎,两人同时向一猎物射击,结果该猎物身中一弹,你认为谁打中的可能性最大?

根据经验而断:老猎人打中猎物的可能性最大.(1、极大似然估计法的思想最大似然估计法例如:

有两外形相同的箱子,各装100个球一箱99个白球1个红球一箱1个白球99个红球现从两箱中任取一箱,并从箱中任取一球,结果所取得的球是白球.答:第一箱.7-17问:所取的球来自哪一箱？法三若X1，X2，…，Xn为总体X的一个样本，当样本观测值x1,x2,…,xn出现时，若要估计总体X中的未知参数θ，自然要选取使x1,x2,…,xn出现的“概率”达到最大的作为θ的估计值了．

7.1.3最大似然估计一般说，事件A发生的概率与参数有关，取值不同，则P(A)也不同。因而应记事件A发生的概率为P(A|).若A发生了，则认为此时的值应是在中使P(A|)达到最大的那一个。这就是极大似然思想河南理工大学精品课程概率论与数理统计

单参数情形下面分离散型与连续型总体来讨论.(2、极大似然估计的求法设离散型总体X的分布律形式已知,θ为待估参数.为来自总体X的样本,为其样本值,则的联合分布律为:根据总体分布律写出似然函数：换x为xi河南理工大学精品课程概率论与数理统计这正是事件“样本取得样本值”的概率,称之为样本的似然函数,它是待估参数θ的函数.

极大似然估计法：对固定的样本值,在参数空间中选取使似然函数达到最大的参数值作为参数θ的估计值(称为极大似然估计值),它为样本值的函数,记为相应统计量称为参数θ的极大似然估计量.河南理工大学精品课程概率论与数理统计设连续型总体X的概率密度

事件“样本取值落在样本值的邻域”的概率近似为形式已知,θ为待估参数。来自总体X的样本,

为其样本值，则的联合概率密度为:河南理工大学精品课程概率论与数理统计达到最大值,

极大似然估计法：对固定的样本值,在参数空间中选取使上述概率达到最大的参数值作为参数θ的估计值(称为极大似然估计值)。由于因子与θ无关,故也使样本的似然函数称为参数θ的极大似然估计量。河南理工大学精品课程概率论与数理统计①、依据总体X的分布律或概率密度写出样本的似然函数:综上可得,求极大似然估计的步骤求最大似然估计量的步骤:费舍尔最大似然估计法是由费舍尔引进的.最大似然估计法也适用于分布中含有多个未知参数的情况.此时只需令对数似然方程组对数似然方程河南理工大学精品课程概率论与数理统计

【例7】求正态总体N(μ,σ2)的两个未知参数μ,σ2的似然估计量.

〖解〗双参数，连续型.因为X~N(μ,σ2),所以X总体的概率密度为设为样本的一个样本值,则似然函数为:河南理工大学精品课程概率论与数理统计从而,取对数得:由似然方程组视σ2为整体河南理工大学精品课程概率论与数理统计解得μ,σ2的极大似然估计值为:从而μ,σ2的极大似然估计量为:■【例7.5】设总体X的概率密度为其中θ(θ

>–

1)为待估参数，求θ的最大似然估计量．

解：设X1，X2，…，Xn为总体X的一个样本，x1，x2，…，xn是样本观测值．基于x1，x2，…，xn的似然函数为当时，，7.1.3最大似然估计令解得考虑到所以，θ的最大似然估计值为θ的最大似然估计量为

7.1.3最大似然估计

【例7.4】总体X服从参数为的泊松分布，（

>0）未知，求参数的最大似然估计量．

解：设X1,X2,…,Xn是来自X的样本，x1,x2,…,xn是样本观测值．由于X的分布律为故基于x1,x2,…,xn的似然函数为对数似然函数为对数似然方程为7.1.3最大似然估计解之得考虑到所以即为的最大似然估计值，的最大似然估计量为7.1.3最大似然估计河南理工大学精品课程概率论与数理统计

【例8】设总体X服从[a,b]上的均匀分布,求未知参数a,b的极大似然估计量.

〖解〗双参数，连续型.因为所以X的概率密度为设为样本的一个样本值,记河南理工大学精品课程概率论与数理统计由于所以,似然函数为对于满足的任意a,b有河南理工大学精品课程概率论与数理统计即故a,b的极大似然估计值为:故a,b的极大似然估计量为:■

本例直接利用极大似然思想方法来求似然估计.河南理工大学精品课程概率论与数理统计对于同一个参数,用不同方法求出的估计量可能不同.那么,采用哪一个估计量为好呢?用何种标准来评判估计量的优劣?下面,介绍几个常用标准.

1、无偏性

定义设估计量存在期望,且对任意有三、估计量的评选标准则称为的无偏估计量.河南理工大学精品课程概率论与数理统计称为用来估计的系统误差.因此,无偏估计就是说无系统误差.河南理工大学精品课程概率论与数理统计

【例】设总体X存在均值μ与方差σ2>0,则

〖解〗因为

1、样本均值是总体均值μ的无偏估计;

2、样本方差是总体方差σ2的无偏估计.

7.1.4估计量的评价标准所以，B2不是总体方差D(X)的无偏估计，尽管B2是D(X)的矩估计量．我们可以把看作对B2的修正．由于它具有无偏性，在实际应用中常被采用．另一方面，由于因此，又称B2是D(X)的渐近无偏估计．7.1.4估计量的评价标准【例7.8】求证：样本标准差S不是总体标准差的无偏估计．

证：因为，即．又因，所以即故一般来说，S不是

的无偏估计．7.1.4估计量的评价标准定义7.3

设都是参数θ的无偏估计，若则称比有效．例如，设总体X的方差存在，X1,X2,…,Xn(n>2)为总体X的一个样本，易知,均为

的无偏估计,又有所以,当n>2时，最有效，较X1有效．7.1.4估计量的评价标准【例7.9】设总体X服从参数为θ的指数分布，概率密度为其中θ>0为未知,X1,X2,…,X