概率论第七章课件1.ppt

第七章,参数估计,7-1,参数估 计问题,假设检 验问题,点 估 计,区间估 计,7-2,什么是参数估计？,参数是刻画总体某方面的概率特性的数量.,当这个数量是未知的时候，从总体抽出一个 样本，用某种方法对这个未知参数进行估计 就是参数估计.,例如，X N ( , 2),若, 2未知，通过构造样本的函数, 给出它 们的估计值或取值范围就是参数估计的内容.,参数估计的类型,点估计 估计未知参数的值,区间估计 估计未知参数的取值范围， 使得这个范围包含未知参数 真值的概率为给定的值.,7.1 点估计,例1 用一个仪器测量某物体的长度，假定测量长度总体 X N(, 2). 现在进行五次测量，测量值(单位mm)为：53.2，52.9，53.3，52.8，52.5. 总体 X 的均值 和方差 2未知?,7-5,很自然地，用样本均值 和样本方差 分别 去估计总体均值 和方差 2 ，即,点估计的思想方法,设总体X 的分布函数为F ( x; 1,2, ,k ) ，其中, 1,2, ,k 是未知参数。,设 X1, X2, Xn为总体的一个样本，,构造 k 个统计量：,随机变量,7-5,数值,称数,为未知参数,的估计值,问题,如何构造统计量？,如何评价估计量的好坏？,对应的统计量,为未知参数,的估计量,7-6,当测得一组样本值(x1, x2, xn)时，代入上述 统计量，即可得到 k 个数：,矩估计法,用样本的 k 阶原点矩作为总体的 k 阶原点矩的估计量, 建立含有待估计参数的方程,从而可解出待估计参数,7-9,常用的点估计方法,例2 设总体 X U (a, b), a, b 未知，求 a, b 的 矩法估计量.,解,由于,令,7-15,解得,7-16,7-11,一般地，设待估计的参数为,设总体的 r 阶矩存在，记为,设 X1, X2, Xn为一样本，样本的 r 阶矩记为,令, 含未知参数 1,2, ,k 的方程组,7-12,解方程组，得 k 个统计量：,未知参数1,2, ,k 的矩估计量,未知参数1,2, ,k 的矩估计值,代入一组样本值得k个数:, X1, X2 , , Xn 是独立同分布的. X1r,X2r, ,Xnr也是独立同分布的. 于是有: E(X1r)=E(X2r)=E(Xnr)= E(Xr)= r . 根据大数定律, 样本原点矩Ar作为 X1r,X2r, ,Xnr的算术平均值依概率收敛到均值 r=E(Xr)， 即:,矩方法的原理解释,例3 设总体 X N ( , 2 ), X1, X2, Xn为总体的 样本, 求 , 2 的矩法估计量。,解,例4 设总体 X E(), X1, X2, Xn为总体的样本, 求的矩法估计量。,解,令,7-13,故,极大似然估计法,思想方法：一次试验就出现的事件有较大的 概率,例如: 有两个外形相同的箱子,都装有100个球 第一箱： 99个白球， 1个红球 第二箱： 1个白球， 99个红球,现从两箱中任取一箱，并从箱中任取一球， 结果所取得的球是白球。,答 第一箱.,7-17,问 所取的球来自哪一箱？,例5 设总体 X 服从0-1分布，且P (X = 1) = p, 用极大似然法求 p 的估计值。,解,X 的概率分布可以写成,设 X1, X2, Xn为总体 X 的样本,设 x1, x2, xn为总体 X 的样本值,则,7-18,对于不同的 p , L (p)不同，见下图,现经过一次试验，,7-19,在容许的范围内选择 p ，使L(p)最大,注意到，ln L(p)是 L 的单调增函数，故 若某 个p 使ln L(p)最大，则这个p 必使L(p)最大。,7-20,一般地，设X 为离散型随机变量，其分布律为,X1, X2, Xn为总体 X 的样本,x1, x2, xn为总体 X 的样本值,则X1, X2, Xn的联合概率分布为：,7-21,或,称L( )为样本的似然函数。,则称这样得到的,为参数 的极大似然估计值，记为,称统计量,为参数 的极大似然估计量，记为,7-22,若随机变量X 连续, 取 f (xi, )为Xi 的密度函数,似然函数为,7-23,注1,注2,未知参数个数可以不止一个, 如1, 2, k,设X 的密度函数(或概率分布)为,则定义似然函数为,为似然方程组,若对于某组给定的样本值x1, x2, xn， 参数 使得似然函数取得最大值，即,则称,为1, 2, k 的极大似然估计值,则称,7-24,显然，,称统计量,为1, 2, k 的极大似然估计量,7-25,例6 设总体 X N (, 2), x1, x2, xn 是 X 的 一组样本值，求 , 2 的极大似然估计.,解,7-26, 2 的极大似然估计量分别为,7-27,求未知参数的极大似然估计值(量)的方法,1） 写出似然函数L,7-28,可求得未知参数的极大似然估计值,然后, 再求得极大似然估计量.,7-29,例7 设 X U a,b, x1, x2, xn 是 X 的一个样本, 求 a , b 的极大似然估计值与极大似然估计量.,似然函数为,7-30,似然函数只有当 a xi b, i = 1,2, n 时才能 获得最大值, 且 a 越大, b 越小, L 越大.,令,xmin = min x1, x2, xn xmax = max x1, x2, xn,取,7-31,故,是 a , b 的极大似然估计值.,分别是 a , b 的极大似然估计量.,7-32,作业,第七章习题 2、4,ch7-1,32,ch7-1,33,1) 待估参数的极大似然估计是否一定存在?,2) 若存在, 是否惟一?,设 X U ( a , a + ), x1, x2, xn 是 X 的一个样本, 求 a 的极大似然估计值.,解,由上例可知, 当,时, L 取最大值 1, 即,显然, a 的极大似然估计值可能不存在, 也可 能不惟一.,7-33,例8,不仅如此, 任何一个统计量,若满足,都可以作为 a 的估计量.,7-34,极大似然估计值的不变性原理,设 是 的极大似然估计值, u( ) ( )是, 的函数，且具有单值的反函数 = (u), uU,则 是 u( ) 的极大似然估计值.,7-35,如：在正态分布总体N (, 2)中， 2的极大 似然估计值为,lg 的极大似然估计值为,7-36,矩估计就不具有这个性质.,例如 设 X 的密度函数为,X1, X2, Xn为总体的样本,7-37,由矩法，令,得 与 2的矩法估计量为, 不具有不变性,7-38,ch7-1,41,顺序统计量法,直观解释: 用样本中位数Me 估计总体中位数.,用样本极差R 估计总体标准差.,注: 当总体为连续型且分布密度为对称时, 总体中位数 即是总体的数学期望.,定理:,设X1,X2,Xn是来自正态总体N(,2)的样本, Me是样本中位数, 则有,可以看出,当n充分大时,因此,可取,ch7-1,42,例7.1.7. 设某种灯泡寿命XN(,2), 随机抽取7只灯泡测得寿命为(单位:小时) 1575,1503,13